cual es el panel de control que estas usando, ISPConfig, WHM/cPanel, Webmin, zPanel, VestaCP...?, en caso de ser en WHM/cPanel la cosa para ti esta mas que fácil.
accedes al WHM y vas a:
Inicio »Configuración del servidor »Instalación cPanel & WHM básica
enlace directo:
https://IPDELSERVIDOR:2087/cpsess2696530837/scripts/editsets
allí en lo ultimo de abajo vas a poner los dns de tu gusto apropiado...
Nameserver 1: ns1.tudominio.com
Nameserver 2: ns2.tudominio.com
después vas hacia:
Inicio »Funciones DNS »Editar la zona DNS
enlace directo:
https://IPDELSERVIDOR:2087/cpsess2696530837/scripts/editdnslist
selecciona tus dominio y manualmente agregas dos registros apuntando a la ip del servidor, cuyos registros deben ser los que pusiste anteriormente ns1 y ns2 como ejemplo.
también arregla el ns1 y ns2 de los SOA records que están inicialmente en la zone del dominio.
una vez que guardes finalmente vas hacia:
Inicio »Funciones DNS »Restablezca una zona DNS
enlace directo:
https://IPDELSERVIDOR:2087/cpsess2696530837/scripts/resetzonelist
y restableces en lo absoluto todas las zonas excepto la del dominio de los dns.
si te sabes manejar en ssh puedes agregar en /etc/hosts al ip del server ls nombres ns1 y ns1 sin borrar ninguno de los que ya posiblemente aparecen.
nota: dependiendo del proveedor de dominio que uses debes de ir a crear los sub dns y/o child dns en este mismo bajo el ns1, ns2 o como le hayas puesto apuntando a la ip del servidor ambos, una vez realizado esto puedes proceder a cambiar los dns del sitio de manera general y listo.
si necesitas ayuda avísame para darte mi skype por privado.