Anthropic propone una pausa en el Desarollo de la IA

Anthropic, la empresa creadora de Claude, publicó un informe en el que pide una pausa global en el desarrollo de sistemas de inteligencia artificial de frontera. La compañía señaló que una desaceleración mundial sería probablemente una buena idea, aunque advirtió que detenerse de manera aislada no tendría sentido si otras empresas o gobiernos continúan avanzando. El documento, firmado por el cofundador Jack Clark y la directora del Anthropic Institute, Marina Favaro, describe con datos internos la velocidad a la que están mejorando sus modelos y vaticina que en el futuro agentes como Claude podrán entrenarse a sí mismos. Como ejemplo concreto, los ingenieros de Anthropic hoy producen en promedio ocho veces más código por trimestre que entre 2021 y 2025.

La propuesta no es un llamado unilateral al freno, sino a una coordinación internacional con reglas claras. Anthropic plantea ayudar a construir los sistemas necesarios para verificar que todos los actores realmente se detengan, y subraya que laboratorios bien financiados en varios países deberían aceptar pausar bajo las mismas condiciones. Además, señala que una pausa creíble debe especificar qué la activa, qué la levanta y quién la arbitra. Para que sea efectiva, tendría que incluir a los principales desarrolladores de IA en Estados Unidos y China, respaldada por acuerdos entre gobiernos y supervisión independiente

Es raro que digan eso cuando en unos meses van a sacar su empresa a bolsa lo más cara posible... La carrera por tener la mejor ia no va a parar, ésto es como el comienzo de internet. De hecho hasta los gobiernos muy probablemente se beneficien para tener más vigilada a la gente.