Los contenidos generados por IA el problema que tienen es que de momento, como dicen los compañeros, pueden ser detectados. Ahora claro, se detectan porque siempre utilizan las mismas muletillas, es decir, los mismos patrones.
Hay actualmente 3 formas de detectar:
- Muletillas. Siempre repite las mismas muletillas, como "Si está... Si está..." (hay otras, es un ejemplo), puede que algunas personas hagan uso abusivo de ello, pero es un porcentaje mínimo, por lo que finalmente en un texto largo al encontrar estos patrones se podrían catalogar como IA y llevarse a 3 o 4 inocentes por delante, a cambio de dar con un montón de IA.
- Carente de expresividad. Las IA siempre escriben de forma muy robótica, de esos textos que lees y notas que son como muy políticamente correctos. Algunos ven un listado y se piensan que es ChatGPT, sin ver las expresiones, se nota la diferencia entre humano e IA.
- Datos desactualizados. Ahora también el problema es que no tiene base de datos actual, y sus textos muchas veces tiene errores grandes como decir que X lugar está en Ciudad de México cuando está en París.
Los puntos 2 y 3 veo difícil que Google sea capaz de detectar. Si fuera texto a texto capaz lo detecta con su IA, pero deben invertir mucho dinero o uso de cómputo por cada texto analizado. Lo que pasa es que hacerlo en masa les traería muchos costes, por eso es que tampoco pueden estar activamente monitorizando esas cosas.
E
l punto 1 eventualmente la IA lo perfeccionará y no se podrá uno dar cuenta, ni con otra IA. A corto y medio plazo sí será una pelea entre IA para detectar otras IA; pero a un largo plazo no habrá forma de detectar.
Lo que yo creo que por
donde más se moverá todo este tema es por lo legal. Sí, las leyes y todo lo relacionado. Habrá más regulación y quizás hasta obligación intencionada de utilizar patrones que se puedan detectar.
Por ejemplo que sea obligatorio compartir los outputs de las IA o de alguna forma vaya etiquetado de origen que es IA. O por otro lado también actualmente le preguntas a una IA sobre cualquier cosa "prohibida" y no te responde. La IA está modificada, al igual que se puede modificar para que responda de una determinada manera para que se tenga identificado que es escrito por IA.
