Geração de notícia sob assinatura · redações, blogs e empresas

Verificador de robôs de IA

Cole uma página do seu site para ver quais robôs de IA o seu robots.txt deixa entrar, se um firewall barra esses robôs e se a página tem texto e dados estruturados que eles leem sem rodar JavaScript. É grátis e não pede cadastro.

Buscamos o seu robots.txt, a página e alguns arquivos públicos uma vez, e não guardamos o resultado.

Robôs de busca, de treino e de usuários são diferentes

  • Os robôs de busca decidem se você é citado

    OAI-SearchBot (busca do ChatGPT), Claude-SearchBot, PerplexityBot, Googlebot e Bingbot montam os índices de onde saem as respostas de IA. Se estiverem bloqueados, as suas páginas não podem ser encontradas nem citadas.

  • Os robôs de treino são outra escolha

    GPTBot, ClaudeBot, Google-Extended e CCBot coletam conteúdo para treinar modelos. OpenAI, Anthropic e Google os mantêm separados dos robôs de busca, e o Google diz que o Google-Extended não afeta a Busca; então dá para bloquear o treino e continuar sendo citado.

  • Os pedidos de usuários funcionam de outro jeito

    ChatGPT-User, Claude-User e Perplexity-User visitam uma página quando uma pessoa pergunta sobre ela. Como foi uma pessoa que pediu, as empresas dizem que o robots.txt pode não valer.

O que este verificador analisa

  • As regras do robots.txt para cada robô

    Lemos o seu robots.txt do mesmo jeito que os robôs (RFC 9309): um grupo que cita o robô pelo nome vale para ele; se não houver, vale o grupo “*”, e a regra mais específica vence.

  • Bloqueios de firewall e CDN

    Pedimos a página mais duas vezes, nos identificando como OAI-SearchBot e ClaudeBot. Se esses pedidos forem recusados enquanto o normal funciona, um firewall pode estar barrando robôs de IA mesmo com o robots.txt liberando.

  • Texto sem JavaScript

    Robôs de IA leem o HTML que o seu servidor envia e não rodam scripts. Contamos as palavras desse HTML, do jeito que eles veem.

  • Indexação, dados estruturados, sitemap e llms.txt

    Procuramos regras de noindex, dados estruturados JSON-LD, um sitemap e um arquivo llms.txt: sinais que ajudam os robôs a encontrar a página e entendê-la.

Perguntas frequentes

Dúvidas comuns

Como saber se o ChatGPT consegue ler o meu site?

Cole uma página no verificador acima. Ele lê o seu robots.txt para o OAI-SearchBot, que alimenta a busca do ChatGPT, e para o GPTBot, que coleta dados de treino, e testa se o seu firewall recusa um pedido do OAI-SearchBot.

Bloquear o GPTBot tira o meu site do ChatGPT?

Não. O GPTBot só coleta conteúdo para treino. A busca do ChatGPT usa o OAI-SearchBot, que você pode liberar separadamente. A mesma divisão existe na Anthropic (ClaudeBot e Claude-SearchBot) e no Google (Google-Extended e Googlebot).

Por que o meu robots.txt libera um robô e o verificador mostra um aviso de firewall?

Alguns CDNs e firewalls barram robôs de IA pelo user agent, independente do robots.txt. O nosso pedido de teste usa o nome do robô, mas sai do nosso servidor, então um firewall que também confere o IP pode tratá-lo de um jeito diferente do robô de verdade. Confirme nas configurações do seu CDN ou firewall.

Preciso de um arquivo llms.txt?

É opcional. O llms.txt é uma convenção recente para dar às ferramentas de IA um resumo do seu site, mas nenhuma grande empresa de IA disse que os robôs dela dependem dele. robots.txt, HTML legível e dados estruturados pesam mais.

Este verificador é grátis?

Sim, e sem cadastro. Buscamos o seu robots.txt, a página e alguns arquivos públicos uma vez a cada verificação e não guardamos o resultado.