Un VPS es un ordernador virtualizado a tu disposicion, osea el VPS tiene su propio CPU virtual, su propia memoria ram, propio disco, etc .. es como si fuera realmente un servidor, pero con la diferencia de que usa una tecnologia para que un servidor dedicado se convierta en varios VPS, de este modo el costo del VPS es barato en comparacion con un servidor dedicado.
un VPS lo puedes encontrar desde 10 dolares, pero un dedicado lo encuentras por encima de los 80 dolares mensual.
Asi que si adquieres un VPS tu eres el responsable de instalar los programas necesarios, de menterner actualizado tu servidor, solucionar todos los problemas que tenga tu servidor, de mantener tu BD segura, etc, etc...
Para administrar un VPS necesitas conocimientos de LINUX, ya que el VPS los dan en linux, y si quieres un CPANEL tienes que pagar 10 dolares adicionales mensual, pero hay una alternativa al CPANEL que es gratuito: LXADMIN (yo lo he usado, es algo rudimentario, casi estable pero es gratis).
En fin si tienes un VPS podrias procesar peliculas para tus webs (como hacia yo), alojar muchas paginas webs, tener paginas con mas de 20'000 visitas diarias (cosa que en un hosting normal no te lo permiten por el consumo excesivo de recursos)...
Deacuerdo a la necesidad surgen las cosas...