Hola qarlios,
Pues depende de otros factores, es decir, que el swap esté utilizado, si bien es un síntoma de falta de memoria, no tiene porque llegar a ser un problema.
Lo que hace el Linux por defecto es "bajar" a swap los procesos que hace tiempo que no están activos dejando más memoria libre para cache de acceso a disco y para ejecutar otras aplicaciones (Este comportamiento se controla con el vm.swappiness del sysctl o cambiando el valor en el proc).
Lo que tendrías que mirar también, es si el "wait" del servidor está alto. Para eso te puedes logar por SSH y hacer un top. Si en los porcentajes de uso de CPU, ves que el WAIT está alto significa que hay procesos esperando. Eso normalmente indica que hay procesos esperando a cargar datos de swap -aunque también se puede referir a otros procesos de IO como la red, pero normalmente es el disco y se ve muy afectado por el swap-. El wait ideal de un servidor es 0%, ya que sino significa que tienes procesos "atascados" esperando a que hayan recursos disponibles.
En definitiva, swap usado y wait alto, significa que necesitas más memoria 🙂 Si el wait está a 0%, entonces no es un gran problema, aunque un poquito más de memoria no te vendría mal.
Un saludo!