Sin conocer el caso, es imposible dar consejos. Optimizar el código puede ser un tema, separar la base de datos del servidor web, en 2 máquinas diferentes es muy importante también, configurar caches (aquí volvemos al código), aceleradores de php, caso que la web sea php, y si los problemas persisten, configurar un balanceador de carga que distribuya entre varios frontales, pero de nuevo te pueden aparecer problemas debido al código, aunque suelen ser raros. Usar CDNs también puede ayudar mucho, sobretodo si hay muchas imágenes o vídeos por página.
Así a ojo, si sólo nos cuentas que la CPU va frita, probablemente se debe a un mysql sobrecargado. El servidor web no suele consumir mucha CPU, salvo en casos de código poco eficiente. Pero, de cualquier modo, es muy aventurado dar una respuesta sin conocer más detalles.