En principio si vas a hacer un Allow: / para todos los user-agents la tercera y la cuarta línea sobran
En principio si vas a hacer un Allow: / para todos los user-agents la tercera y la cuarta línea sobran
User-Agent: *
Allow: /
# Reglas para todos los UA
User-Agent: *
# No permitir que se indexen:
Disallow: /admin/
Disallow: /pagina-irrelevante/
# Permitir que se indexe todo lo demás
Allow: /
# Reglas para el robot de Adsense
User-agent: Mediapartners-Google
# Dejar que indexe todo
Allow: /
A ver, con las líneas:
Insertar CODE, HTML o PHP:User-Agent: * Allow: /
Estás permitiendo que se indexe todo el contenido del sitio (lo cual para adsense, que son las otras dos líneas, es deseable, para el rastreador de google puede serlo o no, depende de tu sitio).
Si usas disallow, lo que haces es no permitir el acceso a la carpeta marcada.
La estructura más frecuente del robots.txt es esta (las páginas con disallow son ejemplos y dependen del sitio: cms, páginas varias...):
Insertar CODE, HTML o PHP:# Reglas para todos los UA User-Agent: * # No permitir que se indexen: Disallow: /admin/ Disallow: /pagina-irrelevante/ # Permitir que se indexe todo lo demás Allow: / # Reglas para el robot de Adsense User-agent: Mediapartners-Google # Dejar que indexe todo Allow: /
la etiqueta que tengo ahora es esta:
<meta name="robots" content="index, follow"/>
okk, perdon si esta no es la seccion indicada.
el problema es que el robots que tengo en mis paginas es el siguiente:
User-Agent: *
Allow: /
pero ayer me llego un mensaje de adsense el cual me da un error de "robot denegado" y no lo entiendo, pq con este robots, no tendria que tener un error de robot denegado.
User-agent: Mediapartners-Google
disallow: /*
Vos esto:
Lo tenes en tu robots.txt ?Insertar CODE, HTML o PHP:User-agent: Mediapartners-Google disallow: /*
Pasa exactamente el contenido que tenes HOY en tu robots.txt (entendiendo por el archivo tal cual lo tenías al momento de recibir el mensaje de google, no?)