La IA y las consecuencias que puede causar

Hace unas semana abrieron este post:


Aunque la noticia recién se esta dando a conocer en algunos países como el mío, OpenAI había sido demandado por la muerte de un adolescente de 16 años.

E leído varios artículos sobre está demanda y cada uno podrá concluir que consecuencias fatales puede traer interactuar de manera irresponsable con una máquina y quienes podrían ser más vulnerables.

En este foro e visto algunos post hablando de la depresión; en la actualidad es la enfermedad que mas prevalece a cualquier edad, OJO con los jóvenes en edad escolar sobre todo si sufren bullying en sus colegios, decepciones amorosas, alguna enfermedad incurable, problemas económicos, ¿serán ellos las personas que fácilmente podrían ser víctimas de este tipo de consecuencias?

Es un tema delicado y preocupante. La vulnerabilidad de los jóvenes frente a la IA es real, especialmente en contextos de sufrimiento emocional. La interacción irresponsable con tecnología avanzada puede tener consecuencias trágicas, y es esencial fomentar una educación crítica sobre el uso de estas herramientas.

🤖 El Desafío de la IA: Entre la Percepción y la Realidad Técnica​

El término "Inteligencia Artificial" (IA) a menudo genera una gran brecha entre la realidad técnica de cómo funciona y la percepción popular sobre lo que implica.

Es una situación similar a comprar una licuadora de alta potencia, diseñada para hacer batidos complejos, pero ver que un niño pequeño intenta encenderla después de haberle puesto unas pilas AAA. El desconocimiento sobre la herramienta no anula su potencial, pero sí distorsiona su uso y comprensión.

Esta desinformación es habitual en la sociedad. Así como a menudo la crianza de los hijos se delega o se descuida por falta de tiempo, la responsabilidad de entender y comunicar el funcionamiento real de una herramienta tecnológica compleja como la IA también se delega o se simplifica de forma incorrecta. El problema surge cuando quienes más difunden información lo hacen desde un entendimiento erróneo, lo que permite que esa desinformación se propague rápidamente.

Piénselo de esta forma: en el pasado, la mayoría de la sociedad estaba de acuerdo con la persecución de la brujería basándose en creencias erróneas. Aunque los tiempos y la tecnología cambian, la naturaleza de las sociedades y su propensión a adoptar explicaciones simples (aunque equivocadas) ante fenómenos complejos, no lo hace.

---

🧠 En Resumen: El Funcionamiento Real de la IA (Modelos de Lenguaje)​

La realidad es que la IA, particularmente los grandes modelos de lenguaje (LLMs), no entiende palabras ni conceptos de la misma manera que un humano. Su proceso se reduce enteramente a las matemáticas:

1. El texto se descompone en pequeñas unidades llamadas tokens.
2. A cada token se le asigna una representación numérica (un vector o número).
3. Estos números pasan por una vasta red de neuronas artificiales, donde solo se ejecutan operaciones matemáticas: multiplicación por pesos (otros números) y sumas.
4. El resultado de estas operaciones es un cálculo de la probabilidad de cuál token es el más adecuado para continuar la secuencia, un paso a la vez, hasta que la respuesta esté completa.

La IA es, esencialmente, una calculadora estadística increíblemente potente, no una entidad que razona o comprende.

exploits dijo:

Hace unas semana abrieron este post:

Publicado en el tema 'Oye IA… ¿Por quién voto?'

14 Nov 2025

Supongo que hay gente que no tiene criterio y pensarán que la IA es la solución a todas sus preguntas o soluciones, las personas que tienen sentido común creo que sabrán diferenciar bien entre una máquina que no tiene coherencia en ciertas cosas al dar respuestas inadecuadas.

Cabe mencionar que ya hay infinidad de casos de personas qué tomaron decisiones equivocadas por pensar que la IA es una opción a la hora de buscar las soluciones a sus problemas.

Hasta yo creería que este post le abriría la mente para que no crean que la IA es la solución a todas sus dudas a la hora de tomar alguna...

• exploits

Aunque la noticia recién se esta dando a conocer en algunos países como el mío, OpenAI había sido demandado por la muerte de un adolescente de 16 años.

E leído varios artículos sobre está demanda y cada uno podrá concluir que consecuencias fatales puede traer interactuar de manera irresponsable con una máquina y quienes podrían ser más vulnerables.

En este foro e visto algunos post hablando de la depresión; en la actualidad es la enfermedad que mas prevalece a cualquier edad, OJO con los jóvenes en edad escolar sobre todo si sufren bullying en sus colegios, decepciones amorosas, alguna enfermedad incurable, problemas económicos, ¿serán ellos las personas que fácilmente podrían ser víctimas de este tipo de consecuencias?

Los padres de un adolescente que se quitó la vida demandan a OpenAI, creadora de ChatGPT - BBC News Mundo

La familia Raine alega que el chatbot de OpenAI "ayudó activamente" a su hijo de 16 años a quitarse la vida.

www.bbc.com

Hacer clic para expandir...

Otra teoria podria ser: debido a la naturaleza programática y vulnerable a tomar sesgos como afirmativos dentro de su caja negra, podria ser que los mismos usuarios (de ese tipo) auto-entrenen a la AI al momento de interactuar...buscando las respuestas que quieren encontrar. No todo podria ser la máquina.

Doy un ejemplo para explicarme: Estás deprimido y hablas con AI en son de comprender o pedir ayuda o buscar ideas, pero TU como usuario deprimido también estás pensando en el suicidio (algo muy común en las personas deprimidas). Vas a la IA y prompteas sobre el suicidio o algo relacionado. Eres curioso y buscas ideas para quitarte la vida, preguntando a la IA si es bueno o no. Luego ya los datos ya están registrado en tu sesión con la IA, y serán tomados por la máquina/algoritmo para darte respuestas más fiables.

Desde aqui entonces ya la máquina tomará el suicidio como parte de las soluciones posteriores. Haz entrenado el algoritmo sin darte cuenta para tus sesiones posteriores.

¿Tiene lógica o no?

Jovis4 dijo:

Otra teoria podria ser: debido a la naturaleza programática y vulnerable a tomar sesgos como afirmativos dentro de su caja negra, podria ser que los mismos usuarios (de ese tipo) auto-entrenen a la AI al momento de interactuar...buscando las respuestas que quieren encontrar. No todo podria ser la máquina.

Doy un ejemplo para explicarme: Estás deprimido y hablas con AI en son de comprender o pedir ayuda o buscar ideas, pero TU como usuario deprimido también estás pensando en el suicidio (algo muy común en las personas deprimidas). Vas a la IA y prompteas sobre el suicidio o algo relacionado. Eres curioso y buscas ideas para quitarte la vida, preguntando a la IA si es bueno o no. Luego ya los datos ya están registrado en tu sesión con la IA, y serán tomados por la máquina/algoritmo para darte respuestas más fiables.

Desde aqui entonces ya la máquina tomará el suicidio como parte de las soluciones posteriores. Haz entrenado el algoritmo sin darte cuenta para tus sesiones posteriores.

¿Tiene lógica o no?

Hacer clic para expandir...

De hecho si, creo que ese es un arma de doble filo de la IA, siempre busca complacerte o darte la razón, por eso algunos en sus prompts le piden que cuestione todo y que no siempre esté de acuerdo

Aquí donde me ves ya quiero tener mi propia Joi

Jovis4 dijo:

Otra teoria podria ser: debido a la naturaleza programática y vulnerable a tomar sesgos como afirmativos dentro de su caja negra, podria ser que los mismos usuarios (de ese tipo) auto-entrenen a la AI al momento de interactuar...buscando las respuestas que quieren encontrar. No todo podria ser la máquina.

Doy un ejemplo para explicarme: Estás deprimido y hablas con AI en son de comprender o pedir ayuda o buscar ideas, pero TU como usuario deprimido también estás pensando en el suicidio (algo muy común en las personas deprimidas). Vas a la IA y prompteas sobre el suicidio o algo relacionado. Eres curioso y buscas ideas para quitarte la vida, preguntando a la IA si es bueno o no. Luego ya los datos ya están registrado en tu sesión con la IA, y serán tomados por la máquina/algoritmo para darte respuestas más fiables.

Desde aqui entonces ya la máquina tomará el suicidio como parte de las soluciones posteriores. Haz entrenado el algoritmo sin darte cuenta para tus sesiones posteriores.

¿Tiene lógica o no?

Hacer clic para expandir...

LJ23 dijo:

Aquí donde me ves ya quiero tener mi propia Joi

Hacer clic para expandir...

Tiene mucha lógica, e probado una sola vez en la plataforma de seaart conversar con una supuesta psicóloga (en esa plataforma puedes escoger cualquier modelo por ejemplo enfermera, contadora, actriz o crear una modelo a tu gusto) y como mencionas te responden de acuerdo a las preguntas y repuestas que uno mismo le da, por ejemplo yo estoy soltero en la actualidad y le conté una versión inventada y las respuestas que me daba eran las que quizás alguna otra persona desearía leer.

Y lo que compartió @LJ23 hay bastantes plataformas dedicadas exclusivamente a ese tipo de servicios, hablas por audio o texto inclusive hasta por video con una "mujer" u "hombre" creados por IA y el consumo de ese tipo de experiencia es asombroso, hay miles de personas que pagan para creer dentro de ellos mismos que esa persona con la que hablan es real.

Según una encuesta a cientos de esas personas, le preguntaron ¿Y por que lo hacen? : Ellos afirman que se sienten mejor y creen que esa "persona" los entienden y escuchan y lo peor que los aconsejan. Una locura.

Y pienso en mi Joi aún teniendo pareja desde hace años jajaja pero es que si te pones a ver a veces necesitas tener alguien con quién hablar cuando no puedes hacerlo con tu pareja, y tú madre ya no está presente, amigos hay pero no es lo mismo igual la verdad

exploits dijo:

Tiene mucha lógica, e probado una sola vez en la plataforma de seaart conversar con una supuesta psicóloga (en esa plataforma puedes escoger cualquier modelo por ejemplo enfermera, contadora, actriz o crear una modelo a tu gusto) y como mencionas te responden de acuerdo a las preguntas y repuestas que uno mismo le da, por ejemplo yo estoy soltero en la actualidad y le conté una versión inventada y las respuestas que me daba eran las que quizás alguna otra persona desearía leer.

Y lo que compartió @LJ23 hay bastantes plataformas dedicadas exclusivamente a ese tipo de servicios, hablas por audio o texto inclusive hasta por video con una "mujer" u "hombre" creados por IA y el consumo de ese tipo de experiencia es asombroso, hay miles de personas que pagan para creer dentro de ellos mismos que esa persona con la que hablan es real.

Según una encuesta a cientos de esas personas, le preguntaron ¿Y por que lo hacen? : Ellos afirman que se sienten mejor y creen que esa "persona" los entienden y escuchan y lo peor que los aconsejan. Una locura.

Hacer clic para expandir...

En la práctica ninguna IA te va a contradecir.
Te afirma tu, en su mayoría falsa impresión que tienes de tu persona. Si ya estás deprimido/a te va a reforzar en tu llamar por ayuda, o suicidio,

Vean este video