Las diferencias entre Vbulletin y PhpBB son las que pueden haber entre un McLaren F1 y un auto chino usado.
Basta con hacer búsquedas en Google y fijarte cuantos Foros VBulletin encuentras, contra PhpBB o SMF. Basta con ver los foros más grandes y fijarse que script usan. Vb o XenForo. El tema es a donde apuntas... a una pequeña comunidad o a un Foro con intenciones de ser una gran comunidad.
Yo manejé Foros muchos años (inclusive uno con 1 millón de usuarios) y te puedo asegurar que si buscas seguridad, indexación y una administración razonable, invierte en VB. Para foros grandes necesitarás un buen servidor. El tema es la inversión, pero si es un proyecto serio tampoco es descabellada.
* Ahora lo que preguntaban sobre SMF... tiene puntos a favor. Es muy seguro... es tan seguro que hasta es imposible que te lleguen usuarios de los buscadores
Hablando en serio, entre PhpBB y SMF me quedaría con PhpBB.