Eso puedes cambiarlo desde tu panel como usuario.
Para establecerlo por defecto esa opcion:
admincp --> opciones vbulletin --> opciones vbulletin --> opciones de registro de usuarios --> opciones predeterminadas para la pagina de registro de usuarios
ahí marca la casilla:
"desplegar una ventanita (popup) cuando el mensaje privado es recibido"