esejoker468
1
Pi
Marketing
Verificación en dos pasos activada
Verificado por Binance
Suscripción a IA
Hola
Me acabo de mudar a Wordpress, y e leido que en esta plataforma uno deve diseñar su Robots.txt, navegando por ForoBeta encontre este:
Que les parece? esta bien estructurado? ya lo subo a mi blog?
ustedes cuales usan y cual me recomiendan que utilice.
gracias
Me acabo de mudar a Wordpress, y e leido que en esta plataforma uno deve diseñar su Robots.txt, navegando por ForoBeta encontre este:
HTML:
User-agent: noxtrumbot
Crawl-delay: 30
User-agent: *
# disallow all files in these directories
Disallow: /cgi-bin/
Disallow: /z/j/
Disallow: /z/c/
Disallow: /stats/
Disallow: /dh_
Disallow: /about/
Disallow: /contact/
Disallow: /tag/
Disallow: /wp-admin/
Disallow: /wp-includes/
Disallow: /contact
Disallow: /manual
Disallow: /manual/*
Disallow: /phpmanual/
Disallow: /category/
User-agent: Googlebot
# disallow all files ending with these extensions
Disallow: /*.php$
Disallow: /*.js$
Disallow: /*.inc$
Disallow: /*.css$
Disallow: /*.gz$
Disallow: /*.wmv$
Disallow: /*.cgi$
Disallow: /*.xhtml$
# disallow all files with ? in url
Disallow: /*?*
# disable duggmirror
User-agent: duggmirror
Disallow: /
# allow google image bot to search all images
User-agent: Googlebot-Image
Disallow:
Allow: /*
# allow adsense bot on entire site
User-agent: Mediapartners-Google*
Disallow:
Allow: /*
Sitemap: http://www.leeinformatica.com/sitemap.xmlQue les parece? esta bien estructurado? ya lo subo a mi blog?
ustedes cuales usan y cual me recomiendan que utilice.
gracias
