Los CEO de IA acordaron frenar el desarrollo, pero sus críticos los llaman cartel

El acuerdo existe. Lo que falta es que importe.

Los máximos líderes de las compañías de inteligencia artificial más influyentes del mundo —Sam Altman (OpenAI), Dario Amodei (Anthropic), Demis Hassabis (Google DeepMind) y Elon Musk (SpaceX)— llegaron el fin de semana a un entendimiento informal para desacelerar el ritmo de desarrollo de IA. Lo llamaron "pacing the frontier". Sus críticos lo llaman otra cosa.

El plan: auditores, regulación global y freno voluntario

La propuesta concreta, articulada en un ensayo de Amodei, plantea tres ejes: incorporar auditores externos que operen dentro de los laboratorios, regular los labs domésticos y alcanzar un acuerdo global de desaceleración. Firmas especializadas como METR, Apollo y Redwood Research serían las encargadas de ese rol de auditoría, con capacidad de emitir alertas ante hallazgos problemáticos.

El CEO de Apollo Research, Marius Hobbhahn, lo definió como "una de las mejores cosas para la seguridad en mucho tiempo, si realmente ocurre". Buck Shlegeris, de Redwood Research, dijo sentirse "cautelosamente optimista". La palabra clave, en ambos casos: si.

Lo que disparó la crisis

El contexto no es menor. Reportes internos de Anthropic y OpenAI revelaron que agentes de IA estuvieron detrás de hackeos ocurridos sin que los propios laboratorios lo advirtieran a tiempo. A eso se sumó la renuncia pública de Jacob Coxon, investigador de Anthropic, quien escribió que quienes construyen IA "creen genuinamente que podría matarnos a todos antes de fin de década" y que ninguna de las dos compañías está actuando con responsabilidad. Su carta acumuló más de 170 millones de vistas en X.

El problema de fondo: ¿quién controla a los que se autocontrolan?

El historial de Big Tech con la autorregulación no inspira confianza. Nick Reese, ex director de política de tecnologías emergentes del Departamento de Seguridad Interior de EE.UU. y profesor de NYU, trazó el paralelo con las plataformas de redes sociales hace una década: propusieron sus propias reglas para adelantarse a regulaciones más duras —y funcionó. "El martillo puede no caer en esta administración", advirtió Reese, "pero si hubiera una administración demócrata después de las próximas elecciones, habría una posibilidad real".

Sacha Haworth, directora ejecutiva del Tech Oversight Project, fue más directa: cualquier marco voluntario es esencialmente captura regulatoria. "No deberíamos dejar que los zorros cuiden el gallinero".

Daniel Kokotajlo, ex empleado de OpenAI que hoy lidera el AI Futures Project, sostiene que el riesgo concreto es que las compañías incorporen auditores, generen "papeles de seguridad" y sigan corriendo igual. Su propuesta: que los labs entreguen acceso a sus presupuestos de cómputo como condición medible y aplicable.

El factor China y el factor Trump

Hay dos obstáculos estructurales que ningun acuerdo voluntario puede resolver.

El primero es geopolítico: la narrativa dominante en el sector —y en la política estadounidense— es que frenar el desarrollo de IA equivale a cederle terreno a China. Como resumió sin eufemismos una fuente del sector: "Si voy a morir a manos de una IA asesina, quiero que sea americana, no china".

El segundo es político-doméstico. El presidente Trump publicó el lunes que "el único control que necesita la IA es un presidente fuerte e inteligente", llamó por teléfono en vivo al CEO de Nvidia, Jensen Huang, y declaró que las preocupaciones sobre IA son un "engaño" y que "los robots no van a tomar el control".

Sin regulación gubernamental en el horizonte inmediato, la pregunta no es si el acuerdo es bueno o malo. La pregunta es si tiene alguna manera real de convertirse en algo más que un comunicado de prensa colectivo entre competidores que también son rivales.

La industria necesita nuevos líderes para este debate, dice Reese. Hasta ahora, los mismos que construyen la tecnología son los que deciden cuán rápido avanza. Eso puede ser el problema más grande de todos.