¿Cómo evitar los crawlers?

  • Autor Autor xcodex
  • Fecha de inicio Fecha de inicio
X

xcodex

Hace tiempo estoy pensando como podría hacer para evitar los Crawlers en mi web.
¿Qué métodos utilizan ustedes que no sea Cloudfare?.
 
Utilizar robots.txt es una alternativa.
Por ejemplo:

Insertar CODE, HTML o PHP:
User-agent: SemrushBot
Disallow: /

User-agent: SemrushBot-SA
Disallow: /

User-agent: AhrefsBot
Disallow: /
 
Atrás
Arriba