Tools

Robots.txt Generator

Easily generate a robots.txt file to control how search engines crawl and index your website.

Blocca crawler IA
Seleziona i bot IA da rifiutare. Quelli non selezionati seguono la regola predefinita.
Ricerca IA
Addestramento
Agenti
Common Crawl

robots.txt Output

Copiato negli appunti