Renunció otro desarrollador de Claude y advirtió: “La IA podría matarnos a todos antes de 2030”
Jacob Coxon, investigador de seguridad que trabajó durante los últimos tres años en OpenAI y Anthropic, anunció su renuncia y dejó una fuerte advertencia sobre el avance de la inteligencia artificial. En una serie de publicaciones en X, cuestionó el rumbo que están tomando las principales empresas del sector y aseguró que están avanzando hacia una tecnología que podría escapar del control humano.
“Renuncié a Anthropic hoy. Pasé los últimos tres años haciendo investigación de preentrenamiento tanto en OpenAI como en Anthropic. Ninguna de las dos compañías está actuando de manera responsable. Están corriendo directamente hacia una superinteligencia auto-mejorante y apostando con nuestras vidas”, escribió Coxon.
El investigador pidió no subestimar lo que puede llegar a hacer una inteligencia artificial mucho más avanzada que los sistemas actuales. Según explicó, podrían aparecer “sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales”.
Y fue todavía más contundente al referirse a los riesgos que manejan quienes trabajan dentro de la propia industria. “Las personas que están construyendo IA creen sinceramente que podría matarnos a todos para finales de la década. Esto no es un truco de marketing”, afirmó.
The people building AI earnestly believe that it could kill us all by the end of the decade. This is not a marketing stunt. If anything, many executives and senior researchers will couch their phrasing in the press to sound sensible - but I hear the same people express fear…
— Jacob Coxon (@hilbertspaess) September 9, 2026
Para Coxon, el problema está relacionado con la carrera que mantienen las grandes compañías tecnológicas por desarrollar modelos cada vez más poderosos antes que sus competidores. “Están atrapados en una carrera por llegar primero”, sostuvo.
En ese sentido, el investigador planteó que el escenario actual podría requerir medidas excepcionales. “No siento que estemos en camino de prevenir una carrera global”, señaló, y advirtió que para frenarla podrían ser necesarias “acciones costosas como una prohibición temporal de mejorar las capacidades de los modelos”.
La advertencia de Coxon encontró además un fuerte respaldo dentro de la propia comunidad vinculada a Anthropic. Evan Hubinger, exjefe de la compañía, respondió a sus publicaciones y aseguró: “Jacob tiene razón aquí: realmente creemos con sinceridad que la IA podría matar a todos los humanos”.
Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to. https://t.co/QAIHiFP3QZ
— Evan Hubinger (@EvanHub) September 9, 2026
Hubinger incluso puso un número sobre ese escenario. “Personalmente, pienso que es >10% dentro de la próxima década”, afirmó. Y aunque defendió el trabajo de Anthropic, reconoció una dificultad central: “Aún no tenemos un plan para resolver el alineamiento para la superinteligencia y no estamos claramente en camino de lograrlo”.
El debate apunta especialmente al concepto de la auto-mejora recursiva, es decir, la posibilidad de que una inteligencia artificial pueda construir versiones mejoradas de sí misma. Desde Anthropic habían explicado que una IA capaz de autoconstruirse “representaría un avance trascendental en la historia de la tecnología, con un potencial enorme para el mundo en ciencia, salud y otros ámbitos”.
Pero la propia compañía también había advertido sobre el otro lado de ese escenario: “La auto-mejora recursiva completa también podría aumentar el riesgo de que los humanos pierdan el control sobre los sistemas de IA”.
La discusión, así, ya no pasa solamente por qué cosas puede hacer la inteligencia artificial, sino por qué podría ocurrir si llega el momento en que esos sistemas sean capaces de diseñar y mejorar a sus propios sucesores. Y mientras las empresas aceleran la carrera tecnológica, algunos de los investigadores que participaron de ese desarrollo empiezan a advertir públicamente que el riesgo puede ser mucho mayor de lo que se reconoce hacia afuera.
