Para insertar el código no necesitas un plugin, cuantos menos plugins tengas mejor. Ahora bien, algunos te proporcionan algún tipo de funcionalidad extra, como los que te han nombrado.
CAOS, el que te recomienda [MENTION=167601]Charizard[/MENTION], te cachea el JS de Analytics localmente y lo actualiza de forma regular usando el wp-cron, lo que mejora la carga de la página y te soluciona algún aviso de Page Speed Insights. GA Dashboard, que te recomienda [MENTION=36058]mccurdy[/MENTION], te proporciona un widget para el escritorio de WP que te permite acceder a las estadísticas de Analytics sin salir del área de gestión de WordPress.
Si no necesitas ninguna de esas funcionalidades extra, con añadir el código en la cabecera de tu child theme (o meterlo en el código mediante el hook wp_head) es suficiente.
