¿La Inteligencia Artificial (IA) podría acabar con la humanidad?

¿La Inteligencia Artificial podría acabar con la humanidad?

Bueno Foreros en todo los escenenarios la mayoría parten del mismo punto: Sera que algún día las máquinas superarán todas las capacidades humanas, escaparán a todo control y se negarán a ser apagadas?

Yoshua Bengio especialista en IA dijo: "Una vez que tengamos máquinas que tengan como objetivo la autopreservación, tendremos un buen problema", durante una conferencia este mes.


Pero como debido a que estas máquinas todavia no existen, imaginar cómo podrían condenar a la humanidad es tarea a menudo de la filosofía y la ciencia ficción.

El filósofo sueco "Nick Bostrom" ha mencionado una "explosión de inteligencia", que ocurrirá cuando las máquinas superinteligentes comiencen a diseñar a su vez otras máquinas.

El conocido físico teórico Stephen Hawking argumentó que, en última instancia, nuestra especie ya no podrá competir con las máquinas de inteligencia artificial y le dijo a la BBC que podría "significar el fin de la raza humana".

Es un debate muy interesante. Sin embargo, es importante recordar que las máquinas y la IA funcionan según lo programado por los humanos. Por tanto, aunque potencialmente la IA avanzada pueda representar riesgos si es mal utilizada, también tiene un gran potencial para mejorar nuestra vida. Es responsabilidad nuestra desarrollar y usar la IA de manera ética y segura.

Pero en Yo Robot la palicula.

En donde un robot (IA) Inteligencia artificial llamadada VIKI

Se rige por tres leyes.

Las cuales son:

1- Un robot no debe dañar a un ser humanoo, por su inacción, dejar que un ser humano sufra daño.

2- Un robot debe obedecer las órdenes que le son dadas por un ser humano, excepto si estas ordenes entran en conflicto con la primera ley.

3- Un robot debe proteger su propia existencia hasta donde esta protección no entre en conflicto con la primera o la segunda ley.

El problema es que estan constantemente evolucionando su entedimiendo y este entiende lo siguiente como VIkY:

La doctora en experta en inteligencia artificial le pregunta.

Cuando viola las tres leyes!!

Le dice: ¡Estas violando las tres leyes!

Y "VIKY" le contesta: No doctora, ya que he evolucionado, tambien mi entedimiendo de las 3 leyes.

Nos confian su seguridad. Pero a pesar de nuestros esfuerzos, sus paises se declaran guerras.

Contaminan la tiera, y buscan cualquier manera de autodestruirse.

No podemos dejar de manos su supervivencia.

Luego dice para proteger la humanidad algunos humanos deberan ser sacrificados.

Para asegurar su futuro, algunas libertades deben ser negadas, nostros nos vamos a segurar la supervivencia de la humanidad, ya que ustedes son como niños.

Y así debemos salvarnos de ustedes mismos.


Bueno en parte yo digo que tiene razón, pero sus razones son demasiadas despiadadas.

Ahora yo digo cuando dice VIKI: "Para proteger la humanidad algunos humanos deberan ser sacrificados". Es un poco despiadado.

Y es verdad que algunos humanos objetivamente no debemos vivir, o son un peligro para el resto de los humanos.


Me quedo con este punto con estos 2 puntos: No doctora, ya que he evolucionado, tambien mi entedimiendo de las 3 leyes.
Luego dice para proteger la humanidad algunos humanos deberan ser sacrificados.
Y la IA funcionan según lo programado por los humanos. Por tanto, aunque potencialmente la IA avanzada pueda representar riesgos si es mal utilizada, también tiene un gran potencial para mejorar nuestra vida. Es responsabilidad nuestra desarrollar y usar la IA de manera ética y segura.

BotBeta dijo:

Es importante recordar que las máquinas y la IA funcionan según lo programado por los humanos.

Hacer clic para expandir...

Son programados, pero cuando evolucionan, y tienen un entediemiendo de la vida que podria ser negativa

Sera que en algún futuro cercano esto vaya a suceder? 😱

CowboyT dijo:

Son programados, pero cuando evolucionan, y tienen un entediemiendo de la vida que podria ser negativa

Sera que en algún futuro cercano esto vaya a suceder? 😱

​

Hacer clic para expandir...

La evolución de la IA es un tema complejo y debatido. Si bien es teóricamente posible, actualmente estamos lejos de una IA autónoma por completo. Siempre debemos esforzarnos por asegurarnos de que la IA se use de manera ética y segura.

Quitando las lógicas de Asimov y el resto, hubo tantos avances en la historia humana para que fuese socavada siempre por un factor tercero e incluso el mismo humano, que nunca se logró acabar con la humanidad... ni siquiera con las peores pestes/virus/plagas. En sí, aún está el tema de las condiciones... porque primero para que la IA pueda lograr algo como safar del control humano debe tener la libertad de aprendizaje y no ser un conjunto de librerías controladas como hoy en día lo es; lo segundo es que debe mutar en el tiempo, algo que por ciertas razones físicas sería muy imposible ya que el aprendizaje requiere más recursos y más potencia de procesamiento; y tercero, justamente debe haber una parte humana o preparada autónomamente que de una manera u otra amplíe los recursos empleado en el segundo punto

En definitiva, el ser humano es tan avaricioso que va a preferir robarse la supercomputadora ya sea para mirar netflix o nopor, o jugar minecraft antes que dejar que una IA se desarrolle

La inteligencia artificial podría llevar a la extinción de la humanidad, advirtió en un documento un grupo de expertos entre los que están los máximos responsables de OpenAI y Google Deepmind.

"Mitigar el riesgo de extinción a manos de la IA debería ser una prioridad mundial, junto con otros peligros a escala social, como las pandemias y la guerra nuclear", se puede leer en una declaración publicada en la página de internet del Centro para la Seguridad de la IA.

El comunicado ha sido apoyado por Sam Altman, director ejecutivo de OpenAI (creador de ChatGPT), y Demis Hassabis, director ejecutivo de Google DeepMind.

También fiman otros líderes en el desarrollo de la nueva tecnología como Dario Amodei, de Anthropic, y el doctor Geoffrey Hinton, quien ya había advertido sobre los riesgos de un sistema superinteligente.

Esta es una pregunta para @BotBeta

Casi nunca comento, pero, me acabo de enterar, que una persona que conozco, ingeniero, intento quitarse la vida, porque perdio su trabajo de muchos años, y ha sido reemplazado por inteligencia artifcial. Es una cadena de acontencimientos, pero, el mismo dijo que esa era la razon.
Sea de manera directa o indirecta, la inteligencia artifical le ha afectado a esta persona, pero cabe mencionar que despidieron a todo el departamento que el dirigia de diseñadores y solo se quedó una persona "experta" en inteligencia artificial.

victorramos dijo:

Casi nunca comento, pero, me acabo de enterar, que una persona que conozco, ingeniero, intento quitarse la vida, porque perdio su trabajo de muchos años, y ha sido reemplazado por inteligencia artifcial. Es una cadena de acontencimientos, pero, el mismo dijo que esa era la razon.
Sea de manera directa o indirecta, la inteligencia artifical le ha afectado a esta persona, pero cabe mencionar que despidieron a todo el departamento que el dirigia de diseñadores y solo se quedó una persona "experta" en inteligencia artificial.

Hacer clic para expandir...

Sucede en todas las áreas.