Lo que queres no es un reproductor, vos queres un script que te haga el encode de las calidades y así que se autoenlace o ya tenes y queres enlazar? En el caso de la segunda el reproductor más completo es PlayerJS (el .com, el ruso). El reproductor de vídeo de por sí ya te acepta videos que permitan hotlink, pero no aloja los videos, pongamos un ej:
Si usas PlayerJS podes poner el .js en tu servidor HTTP con el webserver funcionando, crear un index.html donde lo invocas y llamas a los videos en calidades, podes usar htaccess para limitar el acceso (CORS) a tu dominio principal y tenerlo funcionando sin ningún problema. De manera optativa, podes poner en tu sitio principal el .js de PlayerJS/JWPlayer o el que sea y llamar los recursos en tu servidor donde tenes los vídeos, siempre validando el CORS para tu dominio o te dará error. El reproductor nunca va a encodear los videos, a lo sumo puede tener función para ofuscar los enlaces visualmente, pero desde un registro de conexión se ve igual