Lo más importante es MySQL ??? Que versión ???
Has probado a entrar a la linea de comandos y hacer lo siguiente
$ mysql -utuusuario -pcontraseña
show databases;
create table prueba(userid INT UNSIGNED NOT NULL DEFAULT '0',
forumid SMALLINT UNSIGNED NOT NULL DEFAULT '0',
accessmask SMALLINT UNSIGNED NOT NULL DEFAULT '0',
PRIMARY KEY userid (userid, forumid)
);
Y revisa que no te de errror puede ser que no tengas espacio en disco o que el datadir este apuntando a un directorio que no existe.
No obstante php5 no está oficialmente soportado por vBulletin (pero esto tiene poco que ver con el error)