Nadie realmente a través de un foro puede aconsejarte sobre cómo hacer más seguro tu servidor. Para eso deberías recurrir a contactar a alguien especializado, que bajo presupuesto podría asesorarte, y en el caso de estar interesado en ello, Enlace eliminado.
La optimización de servicios (MySQL, Apache, BIND, Exim, entre otros) parte de la configuración de estos adaptada a los recursos del sistema. Muchas veces se aplica clustering (más de un servidor interconectado entre sí) en el caso de servidores MySQL para permitir que la carga se distribuya en varios servidores.
En casos más complejos, se procede a balanceadores de carga y separación de servicios por servidor, y en ese entonces se hace uso de plataformas de clusterización dedicadas (como Parallels Plesk, Parallels H-Sphere, entre otros).