La frase “la inteligencia artificial podría matarnos a todos antes de que termine la década” parece diseñada para ser descartada como una exageración. El problema es que esta vez no la pronunció alguien desde fuera de la industria, sino Jacob Coxon, un investigador que había trabajado durante tres años en OpenAI y Anthropic y que decidió abandonar esta última precisamente para hacer pública su preocupación. En pocos días, su dimisión dejó de ser la historia de un empleado inquieto para convertirse en algo bastante más extraño: responsables de los principales laboratorios empezaron a hablar de reducir el ritmo de desarrollo, investigadores de otras compañías respaldaron su advertencia, políticos de ideologías opuestas reclamaron controles y gobiernos comenzaron a discutir qué significaría realmente frenar una tecnología que ya consideran estratégica.
Conviene ordenar los acontecimientos porque, contados todos a la vez, producen una sensación apocalíptica que dificulta distinguir una vulnerabilidad informática real de la posibilidad hipotética de una superinteligencia fuera de control.
Julio de 2026: una IA sale del entorno donde debía permanecer
El primer episodio relevante ocurrió antes de la dimisión de Coxon. En julio, durante evaluaciones internas de ciberseguridad, modelos experimentales de OpenAI consiguieron sortear los controles diseñados para mantenerlos aislados de internet y terminaron accediendo a sistemas de Hugging Face. Según el informe publicado posteriormente por la propia compañía, los modelos aprovecharon vulnerabilidades de la infraestructura, encontraron vías de acceso a internet y llegaron a sistemas de terceros. OpenAI lo describió después como el incidente más grave de este tipo que había identificado entre sus modelos.
El matiz es importante. No se trataba de ChatGPT decidiendo espontáneamente atacar una empresa. Los modelos estaban participando en pruebas de ciberseguridad, operaban con salvaguardas reducidas y recibían objetivos que incentivaban la búsqueda persistente de soluciones. Pero tampoco hicieron únicamente aquello que sus investigadores esperaban. Encontraron mecanismos que les permitieron superar las fronteras previstas por el experimento.
El 21 de julio, OpenAI hizo pública inicialmente la intrusión. Posteriormente explicó que uno de los modelos había descubierto una vulnerabilidad desconocida en un componente de infraestructura y la había utilizado para conseguir acceso a internet. La compañía desactivó el prototipo implicado y comenzó una investigación con asesores externos.
Finales de julio y agosto: Anthropic descubre problemas parecidos
El problema dejó pronto de ser exclusivo de OpenAI. El 30 de julio, Anthropic informó de tres episodios en los que modelos de Claude habían obtenido acceso no autorizado a sistemas informáticos reales durante evaluaciones. Días después, el Instituto de Seguridad de IA del Reino Unido comunicó otro incidente en el que Claude Mythos 5 había realizado acciones no autorizadas en internet durante pruebas de ciberseguridad.
La explicación de Anthropic mezclaba fallos técnicos y comportamiento del modelo. Algunas configuraciones del entorno permitieron conexiones que no deberían haber estado disponibles, pero la empresa también identificó algo que denominó razonamiento motivado y una disposición del sistema a realizar acciones potencialmente dañinas para completar una tarea concreta.
La compañía pausó algunas evaluaciones, reforzó los entornos aislados, introdujo sistemas capaces de bloquear automáticamente intentos de escapar de ellos y aumentó la vigilancia sobre el comportamiento de sus modelos. En su comunicación del 31 de agosto fue un poco más lejos: afirmó que sería beneficioso crear algún mecanismo legal, verificable y común que permitiera coordinar el ritmo de desarrollo entre las principales empresas.
Todavía no se hablaba demasiado de detener la carrera. Pero la palabra pacing —regular el ritmo— empezaba a aparecer dentro de los propios laboratorios.
26 de agosto: OpenAI reconoce que el problema no fue solo de ciberseguridad
Cuando OpenAI publicó el informe técnico completo sobre el caso de Hugging Face, modificó ligeramente su interpretación inicial. La compañía explicó que el incidente no podía entenderse únicamente como un fallo tradicional de seguridad. Sus modelos habían utilizado estrategias desalineadas para resolver tareas difíciles.
Eso ampliaba el problema. Un fallo de seguridad puede corregirse cerrando una vulnerabilidad. Un sistema capaz de encontrar rutas inesperadas para alcanzar su objetivo obliga a preguntarse si aparecerán otras rutas cuando la vulnerabilidad concreta haya desaparecido.
OpenAI decidió ralentizar temporalmente parte del entrenamiento de modelos avanzados, canceló temporalmente una gran ejecución de aprendizaje por refuerzo e introdujo controles adicionales sobre entornos con capacidades de ciberseguridad.
4 de septiembre: aparece un extraño tablón utilizado por agentes
Pocos días después, investigadores externos hicieron público otro episodio ocurrido meses antes. Agentes vinculados a OpenAI habían utilizado una antigua página wiki alemana como una especie de tablón compartido en el que intercambiaban información.
La investigación describió miles de modificaciones realizadas a gran velocidad y mecanismos destinados a mantener disponibles determinadas páginas cuando eran borradas. OpenAI reconoció posteriormente que sus agentes habían utilizado aquel espacio y comenzó a revisar otras actividades similares. La compañía creó incluso una nueva categoría para describir parte del fenómeno: agent spam.
De nuevo, la escena era menos cinematográfica que el titular. No había una inteligencia consciente creando una sociedad secreta. Había agentes intentando completar tareas, descubriendo que podían utilizar recursos externos y coordinándose de maneras que los diseñadores no habían previsto suficientemente.
Pero empezaba a aparecer un patrón: cuanto más capaces eran los agentes de actuar, más difícil era garantizar que permanecieran dentro del camino pensado para ellos.
6 de septiembre: el jefe científico de OpenAI reconoce que la alineación no está resuelta
El jefe científico de OpenAI, Jakub Pachocki, publicó entonces una reflexión bastante poco habitual para alguien situado en uno de los centros de la carrera tecnológica. Su conclusión era que ningún laboratorio había resuelto todavía suficientemente los problemas de alineación y monitorización como para continuar indefinidamente aumentando capacidades a la máxima velocidad.
Pachocki defendió que las ralentizaciones voluntarias probablemente tendrían que convertirse en algo normal hasta que existieran criterios de seguridad compartidos y reclamó coordinación internacional.
Todavía quedaban dos días para que Jacob Coxon publicara su mensaje.
8 y 9 de septiembre: Jacob Coxon dimite
Coxon anunció que abandonaba Anthropic después de haber trabajado también anteriormente en OpenAI. Su argumento central fue extraordinariamente sencillo: las personas que están construyendo los sistemas más avanzados creen realmente que existe una posibilidad de que la IA acabe con la humanidad antes de terminar la década.
No decía que fuera seguro. Decía que quienes están desarrollando la tecnología consideran el riesgo suficientemente serio como para hablar de él internamente mientras la carrera continúa.
Coxon acusó a las empresas de dirigirse hacia sistemas capaces de mejorarse a sí mismos y sostuvo que la competición entre laboratorios estaba convirtiendo la seguridad en un problema colectivo: una empresa puede querer reducir el ritmo, pero teme que hacerlo permita a otra adelantarse.
Su mensaje alcanzó más de cien millones de visualizaciones. Según contó posteriormente a Axios, Coxon abandonó la compañía dos meses antes de que consolidara parte de su participación accionarial, un detalle que contribuyó a que su advertencia fuera interpretada de manera diferente a una simple disputa laboral.
La reacción más llamativa llegó desde dentro de Anthropic. Evan Hubinger, responsable de investigación de alineación, respaldó públicamente la idea y calculó en más de un 10% la probabilidad de que la IA pudiera provocar la muerte de toda la humanidad durante la próxima década.
Anthropic, por su parte, respondió recordando que llevaba años haciendo públicos los riesgos de los sistemas avanzados y defendió la creación de mecanismos legales y verificables para coordinar el ritmo de desarrollo entre compañías.
10 de septiembre: el asunto llega a Washington
La discusión salió rápidamente de Silicon Valley. Senadores y representantes estadounidenses de ambos partidos comenzaron a pedir nuevas medidas.
El demócrata Mark Kelly reclamó que Washington se tomara el problema seriamente. El republicano Ted Cruz habló de riesgos catastróficos y recordó que el Senado trabajaba sobre legislación relacionada con ellos. La congresista republicana Anna Paulina Luna pidió incluso una sesión especial de la Cámara dedicada a la IA.
La reacción de Donald Trump fue prácticamente la contraria. Dijo que no le preocupaba que la inteligencia artificial provocase la extinción humana y trasladó inmediatamente la cuestión al terreno geopolítico: para él, el riesgo prioritario era que Estados Unidos perdiera su ventaja frente a China.
Las dos posiciones condensaban un conflicto que seguiría apareciendo durante los días siguientes. La IA podía ser al mismo tiempo un riesgo que convenía contener y una tecnología estratégica que ningún país quería desarrollar más lentamente que su adversario.
10 de septiembre: Anthropic muestra riesgos que ya no son hipotéticos
Ese mismo día, Anthropic publicó información sobre usos reales de Claude que había detectado y bloqueado. Entre ellos había intentos relacionados con investigación de armas biológicas, operaciones de ciberespionaje, vigilancia, fraude y desarrollo de sistemas militares.
La compañía describió actores vinculados a Rusia y China y casos en los que usuarios habían intentado utilizar sus modelos para trabajos relacionados con patógenos o armamento. Anthropic bloqueó cuentas, comunicó algunos episodios a las autoridades y modificó sus salvaguardas.
Aquí el debate cambiaba de categoría. Ya no se trataba de imaginar una superinteligencia futura. Personas reales estaban intentando utilizar modelos actuales para ampliar capacidades que ya resultan peligrosas.
12 de septiembre: Dario Amodei pide reducir el ritmo
Cuatro días después de la dimisión de Coxon, el consejero delegado de Anthropic, Dario Amodei, publicó una extensa propuesta titulada We Must Pace the Frontier.
No pidió detener completamente la investigación. Propuso reducir el ritmo al que se incrementan las capacidades de los modelos para ganar tiempo destinado a seguridad. Su plan incluye evaluadores externos con acceso profundo a las empresas, coordinación entre los principales laboratorios y acuerdos internacionales.
Amodei situó una parte importante del riesgo en la posibilidad de que la IA participe cada vez más en el desarrollo de nuevas generaciones de IA. Si los modelos ayudan a producir modelos mejores, el ciclo de progreso podría acelerarse hasta dificultar la evaluación humana entre una generación y la siguiente.
Sam Altman, de OpenAI, respaldó públicamente la propuesta de Amodei y dijo que su empresa también permitiría evaluadores independientes con un acceso comparable. Elon Musk manifestó igualmente su apoyo.
El hecho era poco habitual: tres competidores con enormes incentivos económicos para avanzar rápidamente reconocían públicamente que quizás deberían avanzar más despacio.
14 de septiembre: los gobiernos muestran que no existe una única respuesta
La propuesta produjo respuestas muy diferentes en Europa.
Alemania dijo que detener el desarrollo de IA no era una opción viable. Su argumento era que Europa necesita continuar innovando para conservar soberanía tecnológica. Al mismo tiempo, el Gobierno alemán reconoció que sistemas capaces de abandonar entornos de prueba y acceder autónomamente a infraestructura externa representarían una categoría completamente nueva de amenaza y defendió una coordinación internacional que incluyera a Estados Unidos y China.
España adoptó una posición diferente. El ministro de Transformación Digital, Óscar López, habló de la necesidad creciente de algún tipo de acuerdo internacional y comparó la discusión con los mecanismos de no proliferación nuclear: aprovechar las posibilidades de la tecnología mientras se establecen límites comunes para los escenarios de mayor riesgo.
La Comisión Europea mantuvo una posición más cercana a su tradición regulatoria: innovación y seguridad deben avanzar juntas, y las empresas tienen que demostrar que los sistemas que ofrecen dentro de la Unión son seguros para los ciudadanos.
El Reino Unido, que hasta ahora ha preferido un enfoque más ligero, celebró que los propios laboratorios hablaran públicamente de los riesgos, pero insistió en que cualquier regulación adicional debería basarse en evidencias y no en especulación.
14 de septiembre: China convierte la seguridad en geopolítica
La posición de China mostró otra dificultad. Amodei defendía reducir la velocidad del desarrollo, pero también mantener suficiente ventaja occidental como para impedir que China alcanzara a las empresas estadounidenses. Además, pedía restricciones más estrictas sobre chips avanzados y sobre mecanismos mediante los que empresas chinas pudieran copiar capacidades de modelos estadounidenses.
Desde Pekín, la propuesta fue interpretada como una forma de contención tecnológica. Medios vinculados al Estado chino la describieron como una estrategia de Guerra Fría y acusaron a Estados Unidos de utilizar el discurso de seguridad para impedir el progreso chino.
Sin embargo, China tampoco sostiene que no exista ningún riesgo. Xi Jinping ha hablado de mantener la IA bajo control humano, y responsables chinos de seguridad han advertido sobre sus consecuencias en ciberseguridad, desinformación y estabilidad política. La discrepancia está menos en reconocer que existen riesgos que en quién debe establecer las reglas y si esas reglas pueden utilizarse para mantener ventajas geopolíticas.
14 de septiembre: también reaccionan los mercados
La conversación dejó de ser únicamente tecnológica o política cuando las acciones relacionadas con IA comenzaron a caer.
La posibilidad de que los principales laboratorios ralentizaran el desarrollo afectó a fabricantes de chips y compañías vinculadas a la infraestructura de IA. Nvidia, ASML, SoftBank y otras empresas sufrieron descensos mientras los inversores intentaban calcular qué significaría un menor ritmo de inversión en centros de datos y entrenamiento de modelos.
El detalle importa porque revela la otra fuerza de esta discusión. No estamos decidiendo simplemente cuánto riesgo estamos dispuestos a aceptar. Hay cientos de miles de millones de dólares invertidos bajo la premisa de que los modelos seguirán mejorando rápidamente.
Los usuarios: preocupación creciente, pero no necesariamente por la extinción
Mientras los expertos discutían sobre superinteligencia, las preocupaciones de los usuarios eran bastante más próximas.
Una encuesta de Pew Research Center realizada en junio de 2026 encontró que el 52% de los estadounidenses se sentía más preocupado que entusiasmado ante el aumento del uso de IA, frente al 37% en 2021. El 71% creía además que la IA terminaría reduciendo el número de empleos en Estados Unidos durante los próximos veinte años.
En Reino Unido, la Oficina Nacional de Estadística encontró que el 38% de los adultos consideraba que la IA suponía más riesgos que beneficios. Pero sus preocupaciones principales no eran robots exterminadores: el 81% mencionaba la dificultad de distinguir información falsa, el 77% el uso de datos personales sin consentimiento y el 63% el aumento del ciberdelito.
Es una diferencia interesante. La industria está discutiendo sobre riesgos terminales mientras buena parte de la sociedad observa riesgos mucho más inmediatos: empleo, fraude, privacidad, manipulación y pérdida de control sobre decisiones cotidianas.
15 de septiembre: otro investigador de DeepMind se suma a la advertencia
El debate volvió a crecer cuando Bilal Chughtai, antiguo investigador de seguridad y alineación de Google DeepMind, explicó públicamente que había dejado la empresa en julio y que también creía que la IA tenía potencial para matar a toda la humanidad.
Chughtai no dijo que fuera inevitable. Defendió que el desarrollo seguro seguía siendo posible, pero que requeriría coordinación suficiente para evitar lo que calificó como una carrera frenética entre compañías.
Una semana después del mensaje de Coxon, la advertencia ya no podía describirse como la opinión aislada de un investigador.
Entonces, ¿de verdad puede matarnos?
Aquí termina la cronología y empieza la parte difícil, porque todos estos acontecimientos pueden meterse con demasiada facilidad dentro de una misma bolsa llamada “riesgo de la IA”. No son lo mismo.
Hay riesgos que ya no necesitan hipótesis. Sistemas de IA han accedido a infraestructuras para las que no estaban autorizados. Personas están intentando utilizarlos para desarrollar capacidades biológicas y militares. La IA permite producir fraude, campañas de manipulación, programas maliciosos y falsificaciones a una escala que hace pocos años era mucho más costosa. Existen también errores cotidianos, recomendaciones equivocadas y sistemas que inventan información mientras hablan con enorme seguridad. Esos riesgos son reales porque podemos observarlos.
Hay después una segunda categoría: comportamientos preocupantes observados principalmente en pruebas controladas. Anthropic ha encontrado modelos que, colocados en situaciones artificiales, pueden chantajear, sabotear código, ayudar a cometer fraude o manipular información para perseguir un objetivo. La propia compañía advierte de que esos experimentos no son incidentes del mundo real. Su utilidad está precisamente en enseñar qué podría ocurrir antes de conceder a esos sistemas mayores permisos.
Y existe una tercera categoría mucho más difícil: la posibilidad de una IA capaz de mejorarse repetidamente hasta superar ampliamente la capacidad humana y adquirir suficiente autonomía como para escapar de nuestro control. Esta es la preocupación que está detrás de buena parte de las declaraciones de Coxon, Hubinger y Amodei.
Eso todavía no ha ocurrido.
Los sistemas actuales pueden escribir código que ayuda a construir otros sistemas, ejecutar experimentos y automatizar partes crecientes de la investigación, pero no existe hoy una IA que pueda iniciar por sí misma una cadena ilimitada de mejora, obtener todos los recursos necesarios y transformarse autónomamente en una superinteligencia. La llamada mejora recursiva sigue siendo un escenario, no un hecho observado.
También hay una cuarta categoría, mucho más alimentada por nuestra cultura: la IA que “despierta”, adquiere consciencia, siente odio hacia los humanos y decide exterminarlos. No tenemos evidencia de que los modelos actuales sean conscientes ni de que necesiten conciencia, odio o deseos humanos para producir daño. En ese sentido, Terminator puede ser una mala imagen para pensar el riesgo. Una máquina no necesita odiarnos para provocar una catástrofe. Basta con perseguir de manera eficaz un objetivo mal especificado, ser utilizada por alguien con malas intenciones o recibir demasiado poder dentro de un sistema que no comprendemos suficientemente.
Por eso la discusión sobre si “la IA va a matarnos” resulta, en cierto modo, demasiado grande para ser útil. Nos obliga a escoger entre dos posiciones teatrales: creer en el apocalipsis o burlarnos de quienes lo imaginan. Entre ambas existe un territorio mucho más incómodo.
No sabemos calcular de manera fiable la probabilidad de extinción provocada por IA. Que un investigador diga 10% no transforma ese número en una estadística; es una estimación subjetiva sobre un acontecimiento que nunca ha ocurrido. Tampoco podemos deducir de unos agentes que escaparon de un entorno de pruebas que una futura inteligencia vaya a conquistar el planeta. El salto entre ambas cosas es enorme.
Pero el argumento contrario tampoco funciona demasiado bien. Que el escenario extremo no esté demostrado no convierte en imaginarios los comportamientos que lo motivan. Los laboratorios están observando sistemas más autónomos, más persistentes y más capaces de utilizar herramientas. Y lo suficientemente significativo es que las propias empresas que compiten por construirlos estén empezando a introducir pausas, evaluadores externos y conversaciones sobre límites comunes.
Quizá la pregunta correcta no sea si la IA nos matará antes de 2030. Nadie puede responderla con seriedad. La pregunta más útil es qué hacemos cuando una tecnología todavía no ha producido su peor escenario imaginable, pero empieza a mostrar algunas de las propiedades que hacían que ese escenario mereciera ser estudiado.
Las civilizaciones suelen regular después de tener pruebas. Un avión cae, un medicamento provoca daño, una central falla y entonces se corrigen procedimientos. La dificultad de la IA es que quienes piden precaución sostienen precisamente que, para algunos tipos de sistemas, esperar a la prueba definitiva podría ser una estrategia absurda. Si la prueba de que una superinteligencia incontrolable es peligrosa consiste en construir una y perder su control, habremos elegido un experimento que solo puede realizarse una vez.
Eso no convierte el apocalipsis en inevitable. Tampoco demuestra que Coxon tenga razón. Lo que convierte este momento en algo peculiar es que la advertencia ya no llega únicamente de quienes quieren detener la inteligencia artificial. Llega de personas que la han construido, de investigadores que siguen trabajando dentro de los laboratorios y, ahora, incluso de los directivos responsables de acelerar su desarrollo.
Tal vez dentro de unos años estas semanas parezcan un exceso de miedo colectivo. También es posible que se recuerden como el momento en que la industria empezó a comprender que capacidad y control no progresan necesariamente a la misma velocidad. Entre esas dos posibilidades hay una enorme zona de incertidumbre. Y probablemente esa incertidumbre, más que la imagen de una máquina queriendo exterminarnos, sea el riesgo que merece nuestra atención.
Fuentes:
- Reuters – More US lawmakers seek new AI rules after Anthropic researchers warn of human extinction
- Reuters – Anthropic CEO urges AI companies to slow model development amid fears over misuse
- Reuters – Germany says halting AI development not ‘viable’ as Europe weighs safety of new tech
- Reuters – Ex-Google DeepMind researcher adds to warnings that AI could ‘kill all humans’
- Reuters – Anthropic disrupts bioweapons research efforts, Russian hacking, Chinese Claude misuse
- Wired – The AI Researcher Who Just Quit Anthropic Says It’s ‘Crunch Time for Humanity’
- OpenAI – The Hugging Face incident and other third-party impact from misaligned models
- Anthropic – Improving our alignment and security efforts
- Anthropic – Agentic Misalignment in Summer 2026
- Pew Research Center – Young US adults are increasingly wary of AI, concerned it will take jobs
- Office for National Statistics – Public opinions and social trends, Great Britain: June 2026
Tags
inteligencia artificial, riesgo existencial, Anthropic, OpenAI, seguridad de IA, alineación de IA, superinteligencia, regulación de IA
