Auditor de acesso de crawlers de IA
GPTBot, ClaudeBot, PerplexityBot, Google-Extended e muitos outros — descubra exatamente quais crawlers de IA o seu robots.txt autoriza ou bloqueia.
Como utilizar
Introduza o seu website
Vamos buscar o seu robots.txt em direto.
Veja cada crawler de AI
GPTBot, ClaudeBot, PerplexityBot, Google-Extended e muitos mais — permitido, bloqueado ou sem regra específica.
Decida com intenção
Bloquear é uma escolha legítima; o importante é saber qual é de facto a sua posição, não adivinhar.
O que verificamos
- Obtém o robots.txt online do seu site e compara-o com 11 crawlers de IA identificados: GPTBot e ChatGPT-User (OpenAI), ClaudeBot e anthropic-ai (Anthropic), PerplexityBot, Google-Extended (treino de funcionalidades Gemini/IA — distinto da indexação de pesquisa pelo Googlebot), CCBot (Common Crawl, que alimenta muitos modelos abertos), Bytespider (ByteDance), Amazonbot, Applebot-Extended (Apple Intelligence) e meta-externalagent (Meta).
- Indica, para cada bot: Autorizado, Bloqueado, ou Nenhuma regra específica (aplica-se então o que o grupo genérico
User-agent: *autoriza). - Não lhe diz intencionalmente qual posição adotar — bloquear os crawlers de IA é uma escolha legítima para alguns sites. O essencial é saber qual é realmente a sua posição, em vez de a presumir.
Ferramentas associadas
- Testador de Robots.txt e Meta Robots — Teste o mesmo robots.txt face aos crawlers de pesquisa tradicionais, não apenas aos crawlers de IA
- Gerador + validador de llms.txt — o robots.txt controla o acesso; o llms.txt é a camada complementar de descoberta pelas IA
- Website Check — Uma análise mais alargada do resto do site, avaliada por IA, enquanto audita o acesso dos crawlers
Última atualização: 19 de agosto de 2026 · Realizado pela equipa de PPC da CWA Europe.