deepcrawl

deepcrawl kategorize edilmemiş bir ajandır. Şu anda yapay zeka veya AI ile ilgili olduğu bilinmemektedir. Bunun yanlış olduğunu düşünüyorsanız veya amacı hakkında daha fazla ayrıntı sağlayabilirseniz, lütfen bizimle iletişime geçin.

Davranış, bu aracının bir arama motoru tarayıcısı, veri kazıyıcı, arşivleyici, tek seferlik getirici vb. olmasına bağlı olarak değişecektir.

Detaylar

Kullanıcı aracısı (user agents), operatör hakkında detaylı bilgilere ve döküman dosylarına ulaşabilirsiniz.

Operatör	-
Dokümantasyon	-

robots.txt ile Engelleme

Web sitenizin robots.txt dosyasında kullanıcı aracısı belirteci kuralları belirleyerek deepcrawl botunu engelleyebilir veya erişimini sınırlayabilirsiniz.

# robots.txt
# Bu deepcrawl botunu engelleyecektir

User-agent: deepcrawl
Disallow: /