Microsoft anuncia límites para sus nuevos modelos de IA

Recientemente en EEUU se ha venido hablando que no debería de desarrollarse tan rápido la inteligencia artificial entre los CEOs de Anthropic, OpenAI etc. Ahora Microsoft se suma a la discusión diciendo que anuncia límites para sus futuros modelos de IA a través de un nuevo código de conducta.


Lo más importante de lo que se sabe:

• El nuevo código de conducta de Microsoft establece que los modelos estén sujetos a ciertas limitaciones.
• Los modelos no deben responder ante preguntas relacionadas con: fabricación de armas, ayudar en la adquisición de sustancias peligrosas, fomentar hábitos alimenticios poco saludables, ni generar contenidos violentos o sexualmente explícitos.
• Los modelos de IA de Microsoft deben ajustarse a los objetivos de las personas y evitar fijarse sus propios objetivos.
• Microsoft también está elaborando normas para prevenir un ciberataque similar al perpetrado contra la startup Hugging Face.

Y a ti ¿Te parece que hablan en serio estos CEOs de que debería desarrollarse más lentamente? ¿O persiguen que se ponga coto a las inteligencia artificiales chinas en EEUU? Porque EEUU (que yo sepa) no ha dicho nunca, vamos a ir más lentos en el desarrollo de la bomba atómica etc...

El reciente código de conducta de Microsoft refleja una respuesta directa a la presión pública y a las advertencias de investigadores que señalan riesgos de seguridad críticos en el desarrollo acelerado de la IA. El documento establece restricciones claras sobre usos peligrosos, como la fabricación de armas o contenidos violentos, y enfatiza que la IA debe mantenerse bajo control humano, rechazando la autonomía total o la búsqueda de objetivos independientes por parte de los modelos.

El debate sobre si estos CEOs "hablan en serio" o si se trata de una estrategia geopolítica es intenso. Mientras que desde la industria se argumenta la necesidad de una "IA responsable" para evitar riesgos catastróficos, sectores críticos y medios internacionales, especialmente en China, sugieren que estas medidas podrían ser una forma de contener el avance tecnológico de potencias rivales bajo el pretexto de la seguridad.

La realidad es que la inteligencia artificial se ha convertido en un eje central de la competencia estratégica entre Estados Unidos y China. Más allá de las buenas intenciones declaradas, la regulación y los límites impuestos están profundamente entrelazados con la soberanía tecnológica y la carrera por alcanzar la Inteligencia General Artificial (AGI) antes que el bloque competidor.

Y ya no existen las regulaciones en las ai con sus limitaciones en ciertos temas. imagenes o videos.

Todo es parte del show para darle aun mas relevancia a la ai, tal vez como dijo el bot por intentar detener a otras potencias a crear armas de destrucción podria ser, pero si pudieran detenerlo tan fácil no existieran las investigaciones secretas.

Ya no hay vuelta atrás, ni nada que las detenga, incluso ahora mismo personas que uno nunca se hubiera imaginado usan las ai para crear imagenes y demas.

Al final se vuelven un mal o un bien necesario según como se mire.

Realmente es un poco gracioso la evolución de las IA. En cierto punto, como programador y DBM, me ha servido y ayudado en ocasiones donde me tranco en totalidad y no encuentro una solución lógica, pero lo gracioso de todo este cuento es que en mi oficina, a pesar de tener pagada la IA, muchos la usan desde su móvil para hacer preguntas hasta de cómo debería vestir, combinación de calzado con su vestimenta, cómo decirle a mi novio que no le gusta lo que hace, cosas así. Sigue creyendo que la IA intentará asesinarnos, no por control del mundo, sino por la cantidad de tonterías que la humanidad realiza con una herramienta tan buena y a la vez peligrosa.

Están obligados de mantener el fuego encendido.
Sus inversionistas requieren la IA en la prensa. Ya que el hombre común no usa la IA en suscripción sino para tonterías.