Para saber las posibles ganancias tienes que conocer principalmente el tráfico que pueda llegar a tener tu proyecto. Para eso utilizas la herramienta de palabras claves de Google, que dista mucho de ser exacta, pero te puede servir para tener una idea (y si tienes experiencia en el nicho lo puedes afinar bastante al número)
¿Cuál es el límite a invertir? varía de acuerdo al tipo de proyecto y el tiempo en que uno espera a ver las ganancias (o recuperar inversión).
Por como esta Google ahora, en los proyectos que inician trato de invertir lo menos posible en cosas que no sean fundamentales, como un diseño o un logo bonito. Yo me focalizo en las cosas fundamentales de cara al SEO: contenido y compra de enlaces de calidad.
Lo primero que hago es meter contenido, y luego de unos meses empiezo con los enlaces de calidad de forma muy paulatina.
Luego de recuperar la inversión inicial y tener ganancias recién evalúo en que reinvertir parte de las ganancias en diseño, logo, programación, etc.