Si usas HestiaCP, esto te puede ayudar de muchas formas pero requiere de quitar cualquier otro mecanismo de firewall que tengas implementado
A continuación, aquí les aporto una breve y pequeña guía para instalarle un firewall decente al panel de control de código abierto HestiaCP. Antes de realizar esta instalación, se debe remover Fail2Ban o cualquier otro firewall instalado para evitar conflictos, no se ha testeado en servidores...
forobeta.com
Si usas el semi optimizado, te descargara regex que le hacen caso a las politicas de "rate limit" de NGINX, ejemplares
Protect your applications from excessive traffic, including DDoS attacks, by controlling the requests they receive with NGINX rate limiting.
www.nginx.com
- Limitar conexiones por IP
Protect your upstream web and application servers by limiting connections, rate of requests, or bandwidth, based on client IP address or other variables.
docs.nginx.com
De igual forma debes revisar logs, para determinar el tipo de ataque que te están realizando... Es decir, se debe mitigar y el servidor debe tener buena optimización para reducir el impacto de los mismos de igual forma sino, de mucho no sirve mitigar
Cloudflare no ayudara al 100% para estos problemas, no siempre, además de que igualmente requiere de conocimientos para mitigar
