Hola Ingus.
Ese mensaje de error se debe a que tus proveedores de hosting han inhabilitado la función exec() en el archivo php.ini (posiblemente por razones de seguridad). Con esta función desactivada no podrás utilizar ImageMagick como procesador de imágenes. Puedes resolverlo de dos maneras:
* Utilizar GD como la biblioteca de procesamiento de imágenes: Para hacer esto, ve a
AdminCP -> Opciones de vBulletin -> Configuraciones de Imagen
En la opción 'Biblioteca de Procesamiento de Imagen' selecciona GD y guarda los cambios. Trata de reproducir el error de nuevo
* Pedirle a tus proveedores de hosting que vuelvan a compilar PHP teniendo la función exec() habilitada.
Saludos.