Kangaroo Bot
Kangaroo Bot, Kangaroo LLM şirketi tarafından Avustralya dili ve kültürüne uyarlanmış açık kaynaklı yapay zeka modellerini eğitmek üzere veri indirmek için kullanılır.
Yapay zeka veri kazıyıcılarının hangi web sitelerini tarayacaklarını ve ne sıklıkla tarayacaklarını nasıl seçtikleri genellikle belirsizdir. Eğittikleri Yapay zeka modellerinin türüne bağlı olarak, daha yüksek bilgi yoğunluğuna sahip web sitelerini daha sık ziyaret etmeyi seçebilirler. Örneğin, bir LLM (Büyük Dil Modeli) eğiten bir ajanın düzenli olarak güncellenen çok sayıda metin içeriğine sahip siteleri tercih etmesi mantıklı olacaktır.
Detaylar
Kullanıcı aracısı (user agents), operatör hakkında detaylı bilgilere ve döküman dosylarına ulaşabilirsiniz.
Operatör | Kangaroo LLM |
---|---|
Dokümantasyon | https://kangaroollm.com.au/kangaroo-bot/ |
robots.txt ile Engelleme
Web sitenizin robots.txt dosyasında kullanıcı aracısı belirteci kuralları belirleyerek Kangaroo Bot botunu engelleyebilir veya erişimini sınırlayabilirsiniz.
# robots.txt
# Bu Kangaroo Bot botunu engelleyecektir
User-agent: Kangaroo Bot
Disallow: /