No, no es obligatorio tener un servidor dedicado, y puedes empezar en un alojamiento compartido. De hecho, me imagino que la gran mayoría de foros han empezado así, y con el tiempo, conforme aumentaban sus requisitos, mejoraban el alojamiento.
A grandes rasgos, depende del tráfico de la página: a más visitantes y movimiento, mejor alojamiento necesitarás. Y llegará un punto en que haga falta un servidor dedicado. Y más tarde otro mejor... y luego un par... y... en fin, que puede ser la historia de nunca acabar
Un saludo, Gorgias.