El archivo Robots.txt nos permite controlar cómo indexan nuestras páginas los motores de búsqueda. Con unas simples líneas de texto podemos prevenir el indexado a uno o varios motores, en todas o algunas páginas de nuestro sitio.
Por tanto, el archivo robots.txt es importante para nuestra SEO y ,en el caso de webmasters que generan páginas optimizadas específicamente para ciertos buscadores, puede evitar que seamos baneados de otros.
Genera tu archivo robots.txt:
|
|||||||||||||||
Otros generadores de robots.txt online:
Más información:(en castellano)
Guia Robots.txt
Crea el fichero robots.txt
Robots.txt
Si te ha gustado este post no olvides suscribirte al feed para estar al tanto de las novedades
[...] (Actualización a 14 de agosto de 2006: Webmaster Libre presenta un generador en línea del archivo robots.txt y añade las direcciones de otros tres generadores: http://www.mcanerin.com/EN/search-engine/robots-txt.asp http://www.1-hit.com/all-in-one/tool-robots.txt-generator.htm http://www.submitcorner.com/Tools/Robots/ Y cita tres direcciones en español que tratan el tema: http://www.webtaller.com/google/guia_robots.php http://www.contadorwap.com/robots.php http://mundogeek.net/archivos/2005/05/04/robotstxt/) [...]
[...] Ralf Kloth ha publicado en su sitio un listado con los robots «malvados» que le han visitado. Ralf considera que un robot es malo tanto si es un spambot como si es, simplemente, un bot que no respeta el archivo robots.txt y los banea de su sitio por métodos más radicales, a nivel de servidor. [...]
[...] Para evitarlo podemos evitar que el buscador visite ciertas páginas por medio del archivo robots.txt, utilizar redirecciones 301 para evitar incoherencias en los enlaces entrantes y, sobre todo, crear una estructura fija para nuestras URIs. [...]
Feed RSS de los comentarios de este post.
Webmaster Libre es un blog de Alma Fernández Página alojada en Redcoruna
Muy buena la herramienta!!!!!!!