Sam Altman: 'El mundo hace bien en tener miedo' — y los CEO de la IA ya no disimulan

Los líderes más poderosos de la inteligencia artificial dejaron de fingir que todo está bajo control.

En la conferencia Dreamforce de Salesforce, celebrada en San Francisco, Sam Altman, CEO de OpenAI, pronunció la frase que nadie en el sector quería decir primero: "Creo que el mundo hace bien en tener miedo". No como provocación. Como diagnóstico.

El miedo ya tiene nombre propio

Altman fue preciso sobre por qué el debate cambió de tono. "Ya no hace falta tanta imaginación como antes para ver cómo esto podría salir mal", dijo ante los asistentes. Los escenarios negativos, que durante años vivieron en el terreno de la especulación, son hoy posibilidades concretas que la industria debe administrar.

Su llamado a la confianza fue tan ambicioso como incómodo: "El mundo debe confiar en que vamos a hacer lo correcto porque es lo correcto y porque somos conscientes de la magnitud de todo esto". Una apuesta a la autorregulación en un momento en que esa apuesta genera más dudas que certezas.

Cuatro voces, dos lógicas

La controversia fue encendida por Dario Amodei, de Anthropic, quien pidió desacelerar el desarrollo de modelos de IA. Su postura: el riesgo es sustancial y las compañías líderes deben dar el ejemplo. "Así es como se lidera el sector: dando ejemplo, diciendo que todos podemos mejorar siempre", sostuvo.

Jensen Huang, de Nvidia, rechazó esa lógica sin rodeos. Para el CEO del fabricante de chips que alimenta toda la carrera de la IA, velocidad y seguridad no son opuestos. "Se pueden tener perfectamente las dos cosas a la vez", afirmó. Su consejo fue directo: "Corre todo lo que puedas. Pero si sientes que el producto no va a ser seguro, para y asegúrate de hacerlo bien". Huang encuadró la seguridad como un problema de ingeniería, no de regulación.

Mark Zuckerberg sumó desde afuera del evento, vía X. Su argumento: no hacen falta acuerdos colectivos porque cada laboratorio ya tiene razones propias para ser cuidadoso. Citó que Meta retrasó meses el lanzamiento de su modelo Muse para priorizar seguridad, sin que nadie se lo pidiera. "No pedimos a los demás que hicieran esto antes que nosotros. Simplemente lo hicimos porque era claramente lo correcto", escribió.

Elon Musk, dueño de Grok, cerró el intercambio con la economía de palabras que lo caracteriza: ante el planteo de Amodei, escribió "Dario tiene razón". Ante el de Zuckerberg, un escueto "cool".

Lo que está en juego

Lo notable no es el desacuerdo —en Silicon Valley el desacuerdo es el estado natural. Lo notable es que todos, desde posiciones distintas, reconocen que el riesgo existe y que el momento de ignorarlo ya pasó.

Altman lo resumió con la claridad que suele reservar para los momentos que importan: el desafío no es técnico ni regulatorio en primera instancia. Es de confianza. Y la confianza, a diferencia del software, no se parchea con una actualización.

La pregunta que queda abierta: ¿quién define qué es "lo correcto" cuando los que toman esa decisión son exactamente los mismos que construyen los sistemas en cuestión?