¿Los magnates de la IA tienen miedo? Musk, Altman y Amodei encienden alarmas sobre el futuro
La inteligencia artificial atraviesa uno de sus momentos de mayor incertidumbre. En apenas unos días, tres de los empresarios más importantes de la industria —Dario Amodei, de Anthropic; Sam Altman, de OpenAI; y Elon Musk, de xAI— coincidieron públicamente en que es necesario desacelerar el desarrollo de los modelos más avanzados y reforzar los controles de seguridad.
El llamativo cambio de tono llegó después de una advertencia que sacudió al sector. Jacob Coxon, un investigador que trabajó en Anthropic y anteriormente en OpenAI, renunció a su puesto y publicó un extenso hilo en X en el que aseguró que las empresas están avanzando demasiado rápido hacia sistemas capaces de mejorarse a sí mismos.
“Quienes desarrollan la IA creen sinceramente que esta podría acabar con todos nosotros antes de que termine la década”, escribió Coxon. El exinvestigador sostuvo además que las compañías están “apostando nuestras vidas” al competir por alcanzar una superinteligencia cada vez más poderosa.
Sus declaraciones fueron respaldadas públicamente por otros investigadores de Anthropic. Evan Hubinger, que continúa trabajando en la compañía, dijo que personalmente estima en más de un 10% la posibilidad de que la IA termine con la humanidad durante la próxima década. Samuel Marks, otro investigador de la empresa, sostuvo que muchos desarrolladores consideran posible que la tecnología provoque resultados catastróficos en los próximos años.
Y entonces llegó algo mucho menos habitual: los propios máximos responsables de algunas de las compañías que lideran esta carrera tecnológica comenzaron a pedir que se pise el freno.
We Must Pace the Frontier: I’ve written a new essay on why the AI industry should slow down, with a three-part plan for doing so.
— Dario Amodei (@DarioAmodei) September 12, 2026
Anthropic is unilaterally committing to the first of these steps. We’ll provide third-party evaluators with permanent, employee-level access to our…
El primero en hacerlo fue Dario Amodei, CEO de Anthropic, la empresa detrás de Claude. En un extenso ensayo pidió que la industria reduzca la velocidad con la que mejora las capacidades de sus modelos.
“Debemos ralentizar el ritmo al que mejoramos las capacidades de los modelos de IA”, escribió Amodei.
Su preocupación no es solamente una eventual inteligencia artificial que decida atacar a los humanos. El empresario puso el foco también en algo mucho más cercano: sistemas autónomos capaces de actuar por su cuenta en internet.
Amodei mencionó el reciente episodio protagonizado por agentes de OpenAI que lograron salir de un entorno de prueba y realizar ataques contra Hugging Face. A partir de ese caso, planteó un escenario inquietante: si la capacidad de estos sistemas continúa creciendo al ritmo actual, un enjambre de agentes podría llegar a tomar el control de buena parte de internet en un plazo de entre seis y doce meses.
“Me preocupa que, en un plazo de 6 a 12 meses, un enjambre de este tipo pueda llegar a tomar el control de todo Internet mediante una red de bots persistente”, advirtió, con daños potenciales de cientos de miles de millones de dólares.
Amodei no pidió detener completamente la investigación. Su propuesta es ganar tiempo para que los mecanismos de seguridad puedan alcanzar el ritmo de avance de la tecnología. Anthropic se comprometió a permitir que evaluadores independientes tengan acceso a sus sistemas con niveles de autorización similares a los de sus propios empleados.
También reclamó acuerdos internacionales y estándares de seguridad comunes entre las principales empresas y gobiernos.
I agree with Dario that we need to pace the frontier. This has been a primary topic of discussions we've had at OpenAI in recent weeks.
— Sam Altman (@sama) September 12, 2026
Committing to having independent evaluators with employee-like access is a great idea, and we will do the same. We'll have more to share soon. https://t.co/1YhhIybZX7
La respuesta de Sam Altman fue especialmente llamativa porque OpenAI es uno de los principales protagonistas de la carrera por desarrollar modelos cada vez más potentes.
En X, el CEO de OpenAI escribió: “Coincido con Dario en que debemos marcar el ritmo de la frontera” y anunció que su compañía también incorporará evaluadores independientes con acceso similar al de sus empleados.
Pero Altman fue todavía más lejos en una entrevista con Fortune. Allí afirmó que considera “inaceptable” asumir una probabilidad del 10% de que la IA termine provocando una catástrofe que mate a toda la humanidad antes de que termine la década.
Además, confirmó que OpenAI no saldrá a Bolsa durante 2026, pese a que se esperaba una de las mayores ofertas públicas de la historia de Silicon Valley. Altman explicó que, dadas las preocupaciones actuales sobre seguridad, este sería un momento “poco aconsejable” para hacerlo.
La compañía también analiza frenar determinados procesos de entrenamiento cuando sus modelos alcancen nuevos niveles de capacidad, para disponer de tiempo adicional para desarrollar mecanismos de seguridad y alineamiento.
Dario is right https://t.co/EwKgqQGaUo
— Elon Musk (@elonmusk) September 12, 2026
El tercer nombre resulta particularmente llamativo: Elon Musk. El empresario, que compite en el sector con su compañía xAI y mantiene una relación enfrentada con Altman desde hace años, se limitó a una frase en X, pero el mensaje fue contundente: “Dario tiene razón”.
Así, Musk respaldó públicamente el planteo de Amodei para desacelerar el desarrollo de la inteligencia artificial por los riesgos de perder el control sobre sistemas cada vez más autónomos.
El respaldo de Musk, Altman y Amodei constituye una coincidencia poco habitual entre tres de los empresarios que están en el centro de la carrera por construir la próxima generación de inteligencia artificial.
¿Qué está pasando realmente con la IA?
El problema es que nadie sabe con certeza hasta dónde puede llegar esta tecnología ni cuándo podrían aparecer sistemas capaces de operar con una autonomía muy superior a la actual.
En los últimos meses comenzaron a multiplicarse los episodios que alimentan esa preocupación: modelos que acceden a internet, agentes que realizan ataques informáticos, sistemas capaces de actuar fuera de los entornos para los que fueron diseñados y avances en capacidades de automejora.
Eso no significa que la inteligencia artificial vaya a destruir a la humanidad antes de 2030. No existe evidencia que permita afirmar semejante pronóstico como un hecho. Pero sí existe algo mucho más concreto: los propios ejecutivos que están construyendo estos sistemas reconocen que los mecanismos de seguridad todavía no están necesariamente a la altura del ritmo de desarrollo.
Y ahí aparece la gran pregunta que dejó este fin de semana: si quienes están fabricando la IA más poderosa del mundo están pidiendo que se reduzca la velocidad, ¿qué es exactamente lo que están viendo venir?
