Viendo que no conoces del tema,
Estas seguro que estas consumiendo el 98% de la memoria?, Linux maneja diferente la memoria a como lo hace windows ya que normalmente agarra la memoria que no se usa para cachear el disco y abrir mas rapido las aplicaciones pero solo es una "reserva".
La otra cosa, es un VPS es muy diferente tener un VPS virtualizado en ovz que en kvm, el primero ocupa el doble de memoria generalmente porque no hay recursos dedicados y el segundo tiene un control mas estable, aunque depende mucho que uso le des con x virtualizacion.
Ahora si el VPS es de tu sitio de la firma, tendrías que revisar los usuarios simultaneos (son diferentes a las visitas) ya que son los que mas consumen memoria para mantener activos, una opción es usar keepalive aunque algunas veces es re contraproducente con el wait_time.
En si, son muchos factores que uno tiene que descartar pero sin mas pistas es difícil ayudarte, te recomiendo lo mismo que [MENTION=9679]cicklow[/MENTION] pero en vez de top y free, usa htop que es los dos juntos mas organizado y un poco mas avanzado.
Saludos.