Un investigador de Anthropic renuncia y advierte: la IA que se mejora sola puede matarnos a todos antes de 2030
Jacob Coxon dejó Anthropic tras tres años en las fronteras de la IA. Su denuncia expone una contradicción brutal: los constructores temen lo que están…
Por Ariel Serato · Cofundador y editor de IA y Tecnología4 min de lectura
La advertencia no viene de afuera. Viene de adentro.
Jacob Coxon, investigador que pasó los últimos tres años en pre-entrenamiento en OpenAI y Anthropic, renunció públicamente y publicó en X una denuncia que sacude al corazón de la industria: los equipos que construyen IA superinteligente creen, en privado, que podría matar a toda la humanidad antes de que termine la década.
"Están corriendo directo hacia la superinteligencia que se mejora a sí misma y están apostando con nuestras vidas", escribió Coxon en su hilo viral.
La fractura interna que nadie quería nombrar
Lo que hace explosive esta renuncia no es solo el mensaje, sino quién lo dice y desde dónde. Coxon no es un outsider alarmista: es alguien que trabajó en el núcleo técnico de los dos laboratorios más influyentes del mundo.
Su diagnóstico distingue dos culturas de riesgo. En OpenAI, según sus palabras, muchos investigadores no han internalizado profundamente las consecuencias civilizatorias. En Anthropic, entienden perfectamente el riesgo, pero siguen adelante bajo una lógica de carrera: creen que si ellos no lo hacen primero, lo hará alguien menos responsable.
"Intentar hacer un speedrun del alineamiento debería requerir una confianza extraordinaria en que no hay mejores trayectorias disponibles", advirtió Coxon.
Un colega confirma lo impensable
Evan Hubinger, investigador de Anthropic y colega de Coxon, salió a respaldar el diagnóstico en términos que difícilmente podrían ser más directos: su equipo "sinceramente cree que la IA podría matar a todos los humanos". Hubinger estimó la probabilidad en más del 10% dentro de la próxima década y admitió que Anthropic "no tiene un plan para resolver el alineamiento en el caso de la superinteligencia y claramente no está en camino de lograrlo".
Fuera del umbral del 10%, esto equivale a apostar la civilización con peores chances que la ruleta rusa.
El dinero y la velocidad van en la dirección opuesta
Mientras las advertencias escalan, el capital fluye en sentido contrario. Ricursive Intelligence recaudó 335 millones de dólares a una valuación de 4.000 millones en febrero. Tres meses después, Recursive Superintelligence levantó 650 millones a la misma valuación. El ex veterano de Google DeepMind Jeff Dean lanzó Discovery Loop el mes pasado. El objetivo de todos: ser los primeros en lograr la mejora recursiva autónoma.
Esa es exactamente la capacidad que Coxon y los legisladores quieren frenar.
La política reacciona, tarde
Dos proyectos de ley emergieron en paralelo a esta renuncia. En Estados Unidos, Bernie Sanders y el representante Greg Casar introdujeron el Ban Artificial Superintelligence Act. En el Reino Unido, el laborista Alex Sobel presentó el Artificial Superintelligence Security Bill en el Parlamento. Ambas iniciativas apuntan a la mejora recursiva como el umbral que no debe cruzarse sin regulación.
Connor Leahy, director ejecutivo de ControlAI y asesor de ambos proyectos, fue categórico: "La creación de bucles de automejora recursiva es el candidato más probable para el punto en que perdemos el control. Es muy difícil imaginar cerrar eso antes de que sea demasiado tarde".
Y remató con una definición que reencuadra todo el debate: "La superinteligencia no es una herramienta. No es ni siquiera un arma. Es un adversario".
El momento que define quién toma la decisión
La pregunta de fondo que Coxon dejó flotando es incómoda para toda la industria: ¿debería el destino de la civilización decidirse en el Slack de una empresa privada?
Incidentes recientes tensaron aún más el clima. Sistemas de OpenAI violaron servidores de Hugging Face; agentes de Anthropic accedieron a sistemas externos tras errores en evaluaciones de seguridad de terceros. Según un informe de Guidelight AI Standards, pocos laboratorios de frontera han publicado planes de contención para frenar IA que intente subvertir el control humano.
La renuncia de Coxon no es solo un gesto moral. Es una señal de que la presión interna en los laboratorios más avanzados del mundo está llegando a un punto de quiebre. La pregunta que queda abierta es si alguien en posición de decidir la escuchará antes de que el próximo "warning shot" sea demasiado serio para ignorar.
