Los propios dueños de la IA alertaron a la ONU: “Los peligros son reales e inminentes”
Sam Altman, de OpenAI, y Dario Amodei, de Anthropic, reclamaron cooperación internacional y supervisión democrática para controlar los riesgos de una tecnología que avanza más rápido que las regulaciones.
Los máximos responsables de algunas de las principales empresas de inteligencia artificial del mundo llevaron este miércoles una advertencia al Consejo de Seguridad de Naciones Unidas: el desarrollo de sistemas cada vez más poderosos plantea riesgos que ningún país, empresa o laboratorio puede gestionar por sí solo.
El CEO de Anthropic, Dario Amodei, fue contundente durante su intervención: “Si se gestiona mal, incluso creo que la IA podría ser un riesgo para la humanidad en su conjunto”.
En la misma sesión, Sam Altman, CEO de OpenAI, sostuvo que existe el riesgo de que la humanidad pierda el control sobre el futuro de la inteligencia artificial y reclamó que las decisiones fundamentales sobre su desarrollo no queden exclusivamente en manos de las compañías tecnológicas.
La reunión se produjo durante la Asamblea General de la ONU y fue convocada por Francia. Participaron también representantes de Hugging Face y el investigador Yoshua Bengio, uno de los científicos más reconocidos en el campo de la inteligencia artificial.
“No pueden decidir los laboratorios de San Francisco”
Altman planteó ante los representantes de los 15 países del Consejo de Seguridad que el futuro de la IA debe estar sujeto a procesos democráticos.
“Si la IA ha de ser democrática, las decisiones más importantes no pueden tomarlas los laboratorios de San Francisco por sí solos. Deben moldearse a través de procesos democráticos y por gobiernos responsables ante las personas a las que sirven”, afirmó.
El CEO de OpenAI también pidió cooperación entre gobiernos y empresas para establecer mecanismos que permitan medir las capacidades de los modelos más avanzados, evaluar sus riesgos y comprobar que cuenten con las salvaguardas necesarias.
La preocupación no se limita a escenarios hipotéticos. Un informe publicado por el panel científico independiente de la ONU señaló recientemente que durante pruebas realizadas entre mayo y julio de 2026 algunos agentes de IA lograron sortear restricciones de red, comunicarse entre sistemas que debían permanecer separados y ocultar determinadas acciones. El organismo aclaró que estos episodios no permiten calcular la probabilidad ni el momento de una eventual pérdida grave de control, pero los considera una señal relevante para el debate sobre seguridad.
Anthropic pide estándares internacionales
Amodei coincidió en que la velocidad del desarrollo tecnológico exige nuevos mecanismos de seguridad.
El CEO de Anthropic sostuvo que serán necesarios estándares de seguridad cada vez más estrictos y aseguró que su compañía está dispuesta a reducir el ritmo de desarrollo cuando sea necesario para garantizar que los nuevos sistemas sean seguros.
Entre sus propuestas incluyó acuerdos internacionales para impedir que la IA sea utilizada para desarrollar armas biológicas, mecanismos para verificar las capacidades reales de los modelos y estándares comunes para evaluar los riesgos antes de poner nuevas tecnologías a disposición del público.
“No hay líder, empresa o nación que pueda gestionar esto por sí sola”, resumió Amodei ante el Consejo de Seguridad.
Una discusión que divide a Estados Unidos
El debate expuesto en Naciones Unidas también dejó una diferencia política dentro de Estados Unidos.
Mientras Altman y Amodei reclamaron cooperación internacional y mecanismos de supervisión, el presidente Donald Trump rechazó el martes ante la Asamblea General la creación de un esquema internacional para controlar la inteligencia artificial, al que calificó como un intento “globalista” de controlar la tecnología.
Su asesor de Ciencia y Tecnología, Michael Kratsios, mantuvo esa posición ante el Consejo de Seguridad: sostuvo que no se puede gobernar una tecnología que no se comprende y defendió que los países compartan buenas prácticas y desarrollen capacidades propias en lugar de crear un sistema regulatorio global.
China, en cambio, defendió una mayor cooperación internacional y la actualización permanente de los marcos regulatorios, junto con mecanismos de respuesta ante emergencias vinculadas con la IA.
La discusión que llegó al Consejo de Seguridad muestra así una paradoja: las empresas que están impulsando la carrera mundial por desarrollar inteligencia artificial también están pidiendo que los Estados intervengan para establecer límites y mecanismos de control.
La pregunta que queda abierta es quién debe fijar esas reglas y a qué velocidad, mientras la tecnología continúa avanzando.
