Generador de robots.txt

By default all robots are

Crawl delay

 

Sitemap URL. Leave blank for none.

Robots are allowed to crawl your site:

 

Restricted directories or files. Relative to root, with trailing slash for dirs.

Your Robots.txt

El fitxer robots.txt en un lloc web és l'ajuda del webmaster ignora els fitxers o els directoris especificats quan l'aranya de motor de secret rastreja un lloc.

Generador de robots.txt us ajudarà a obtenir un fitxer robost.txt més fàcil, wehn que seleccioneu el motor de cerca permès i el rastreig de temps de retard, introduïu l'URL del mapa del lloc i seleccioneu els rotots permesos, obteniu el vostre codi. el codi com a continuació:

User-agent: *

No permetre: /

Agent d'usuari: IA_ARCHIVER

No permetre:

Agent d'usuari: Slurp

No permetre:

Agent d'usuari: APORTACIÓ

No permetre:

User-agent: Teoma

No permetre:

Agent d'usuari: Baiduspider

No permetre:

Agent d'usuari: TwiCeler

No permetre:

Agent d'usuari: Robozilla

No permetre:

Agent d'usuari: Gigabot

No permetre:

Agent d'usuari: GoogleBot

No permetre:

Agent d'usuari: GoogleBot-Image

No permetre:

Agent d'usuari: GoogleBot-Mobile

No permetre:

User-agent: mail.ru

No permetre:

Agent d'usuari: MSNBOT

No permetre:

Agent d'usuari: Psbot

No permetre:

User-agent: Naverbot

No permetre:

Agent d'usuari: Yeti

No permetre:

User-agent: Nutch

No permetre:

Agent d'usuari: Stackrambler

No permetre:

User-agent: fregat

No permetre:

Agent d'usuari: Asterias

No permetre:

Agent d'usuari: Yahoo-Slurp

No permetre:

Agent d'usuari: Yandex

No permet:

Generador de robots.txt