Más allá de la discusión planteada por camilopaz sobre la utilidad de un foro, que requiere sus cuidados y demás para valer la pena, respecto a tu consulta puntual no es para nada lo mismo usar un subdominio o un directorio. Los subdominios no sólo pierden algunas métricas de relevancia e importancia en blogger o wordpress, también en otros dominios.
En el 95% de los casos, y el que parece ser el tuyo, es recomendable usar un subnivel.
Si lo incorporaras en un subdomino, no te perjudicaría el SEO del contenido que ya tenés, sino que sería más dificil posicionar el contenido del foro. Utilizando un subnivel como tudominio.com/foro, cada página interna del mismo tendría mayor autoridad para posicionar para búsquedas que sean relevantes.
Un subdomino hereda algunas métricas por lo que no sería como hacer un sitio nuevo, pero sí más complicado que si es un subnivel. De la misma forma, en un subnivel le estás aportando mayor anchura temática al subdominio principal (www.loquesea.com), recordemos que el www (o su ausencia) es un subdominio más dentro del domino, como cualquier otro.
Pero el planteo inicial: cuidate del spam, planeá bien la composición de la comunidad y la escalabilidad, cuidá el contenido y asegurate de que estés agregando una funcionalidad que aporta al posicionamiento y/o las conversiones.
Saludos!