Podés ponerlo en header.php, creas una carpeta llamada javascript en la de tu theme, por dar un ejemplo y ya luego colocarias tus scripts así:
<head>
<script type="text/javascript" src="<?php bloginfo('stylesheet_directory'); ?>/javascript/tuscript.js"></script>
</head>
Importante hacerlo entre las tags <head> y </head> aunque si lo que queres es poner jquery que es lo más comun podes llamarlo nada más sin hospedar nada en tu host, dado que jquery ya viene integrado en WordPress, lo llamas así:
<?php wp_enqueue_script ("jquery") ; ?>
Aunque ultimamente lo recomendado es ponerlo cerca del footer, la manera mas común de hacerlo es en el header.
