Primeramente deberás tener acceso al Search Console de google.
Luego, primero busca "site:nombredelaweb.com" para ver que cosas están indexadas, y cuales no.
Segundo, deberás hacer una redirección 301 en todas las URL que tienen un error 404.
Tercero, actualizar tu sitemap solo con las URL vigentes y en el robots.txt bloquear las URL viejas para que no sean reindexadas.
Cuarto, entras al search console y haces un pedido de desindexación de las URL con el 404.
Quinto, en el search console, deberás enviar nuevamente un sitemap para que google rastree las url nuevas.
Luego queda esperar unos días a que google desindexe las URLS, cabe aclarar que si son articulos, es posible que google ignore tus pedidos porque el mismo google indica que esas URL se irán con el tiempo y no es lo ideal pedir que se desindexe. Yo tengo una URL indexada HACE UN **** AÑO que google no me desindexa jajajaj era de cuando un cabroncete metió tremendo virus de un PTC en mi web :sorrow: