Hay que aclarar que es y que no la borras, solo la ocultas de la presentación en el navegador:
1. Es un beacon (no un bacon) si no un web beacon una especie de faro que se usa para rastrear la actividad de los usuarios. Generalmente se usa un archivo gif de tamaño 1x1 que se muestra con dimensiones 0. Una imagen pues, que puede rastrearse y contabilizarse, por eso se usa en los sistemas de estadísticas.
2. Las estadísticas de WordPress usan este archivo para controlar qué y cuántas veces se visita las páginas de los blogs, y se usa precisamente la carita como rastreador. Si la borras, el programa de estadísticas ya no funcionaría.
3. El código, bastante útil, por cierto, porque a veces la carita rompe el diseño, solo oculta la carita de la vista de los usuarios, pero conserva su funcionalidad. Esta técnica es usada por junto con javascript para darle algunas bonitas presentaciones a las páginas, como tabs, pestañas, spoilers, etc. y lo usaban antes los del sombrero negro... pero esa... es otra historia.