Il Verificatore robots.txt recupera e analizza il file robots.txt di qualsiasi dominio, verifica la sua sintassi e mostra esattamente quali user-agent sono consentiti o bloccati. Inserisci il tuo dominio nello strumento qui sopra per ottenere un rapporto immediato.
Perché un robots.txt mal configurato è un rischio GEO
La maggior parte dei problemi di robots.txt non vengono rilevati perché il sito funziona normalmente per gli utenti umani. Un browser ignora completamente robots.txt. Ma i crawler IA lo rispettano scrupolosamente -- il che significa che una singola direttiva errata può rendere il tuo intero sito invisibile a GPTBot, PerplexityBot o Google-Extended senza alcun segnale visibile di avviso.
Cosa verifica lo strumento
- Accessibilità del file
- Validità della sintassi
- Regole per i crawler IA
- Conflitti di regole
- Presenza della sitemap
Come interpretare e correggere i risultati
- Se un crawler IA è bloccato: individua e rimuovi la regola.
- Se il file non è accessibile: controlla le autorizzazioni del server.
- Se manca la sitemap: aggiungila con la direttiva Sitemap:.
























