Directivos de empresas critican los mensajes extremos sobre seguridad de Dario Amodei

La reunión entre la Administración Trump y todos los mandamases de la IA este martes tenía como objetivo mostrar que había un ecosistema de IA unido. Entre bambalinas, la tensión era más que evidente. Y es que según apunta el Wall Street Journal, varios CEOs, entre ellos Jensen Huang (Nvidia), presionaron a Dario Amodei (Anthropic), preguntándole por qué es tan alarmista en público sobre lo que pueden hacer los modelos de IA y los riesgos que plantean. Según cuenta el medio, Amodei respondió que la industria le debe al público sinceridad sobre ambas cosas.

¿Freno o no freno?. Hay tensión entre laboratorios de IA, y esa tensión viene marcada por los cortísimos tiempos de desarrollo de sus respectivas herramientas y, sobre todo, por la visión que muestran sus máximos responsables (al menos de puertas para fuera). Amodei advertía que era necesario que la industria pueda ralentizarse si es necesario, algo que apoyaron tanto responsables de OpenAI como de Google DeepMind o el propio Elon Musk .

Por otro lado están Huang y Mark Zuckerberg (Meta), quienes respaldan un enfoque más permisivo, enfoque que también comparte la Casa Blanca (no nos fiamos de que China frene, así que yo tampoco freno).

El corralito. Hubo cierto enfrentamiento, según el WSJ, y se produjo después de la comida, en un grupo más reducido que incluía a ejecutivos y asesores de la Casa Blanca en la Sala Roosevelt. La respuesta de Zuckerberg a las preocupaciones de seguridad de Amodei, según el mismo medio, fue que la mejor respuesta era que toda la industria cumpliera con los nuevos principios.

Estos nuevos principios son un acuerdo voluntario de dos páginas firmado por líderes entre los que se incluyen los de Anthropic, Google, Meta, Nvidia y OpenAI. Tal y como comparte la CNBC, el acuerdo pide a cada laboratorio de IA:

• Establecer una supervisión interna sólida de sus modelos.
• Contar con un equipo interno que verifique que los controles funcionan.
• Recurrir a auditores o evaluadores externos.
• Nombrar un comité independiente del consejo de administración para supervisar a ese equipo interno.

Al preguntársele si el acuerdo es vinculante, Trump lo calificó de “moralmente vinculante”, tal y como cuenta el New York Times. El texto solo dice que puede tener sentido convertir las medidas en ley “con el tiempo”.

No es la primera vez que los líderes de la IA se han enfrentado. Anthropic, OpenAI y Google habían coincidido este verano en un organismo de autorregulación basado en la FINRA, que es precisamente uno de los organismos que regula el mercado de valores en EEUU. Según cuenta el WSJ, Huang, Zuckerberg y Elon Musk advirtieron a Trump de que esto concentraría demasiado poder en los laboratorios líderes, y la idea se descartó.

Y bueno, luego vino toda una oleada de opiniones públicas por parte de sus respectivos mandamases:

• Huang califica los temores de seguridad como exagerados y ha instado a un enfoque de no intervención, argumentando que las normas permitirían a China adelantar a EEUU, tal y como señala el NYT. Durante el almuerzo del martes dijo que la innovación y la seguridad no entran en conflicto, tal y como comparte el Washington Post.
• Zuckerberg se ha alineado estrechamente con la Casa Blanca. El WSJ señala que habló con frecuencia con Trump y con el secretario de Comercio, Howard Lutnick, mientras se ultimaban los principios.
• Amodei, que publicó a principios de este mes su ensayo sobre por qué se debería frenar el ritmo en la IA, pedía pruebas federales para los modelos de IA, según el NYT.
• Musk se sentó junto a Trump durante el almuerzo, a pesar de que respaldó los llamamientos de Amodei de ralentizar el desarrollo de la IA, según cuenta el Washington Post.

Amodei también se encuentra en una posición delicada, ya que Anthropic está preparando una salida a bolsa que espera que la valore en alrededor de 2 billones de dólares, y todavía se está recuperando de sus dos últimos enfrentamientos con la administración. Uno fue un cierre de dos semanas y media de dos de sus modelos por motivos de seguridad; el otro, una inclusión en la lista negra del Pentágono sobre cómo se utiliza la IA en el ámbito militar.

Y ahora qué. El acuerdo es voluntario, y el NYT señala que es escaso en detalles y que no está claro quién lo haría cumplir. También se hace eco de compromisos voluntarios anteriores de la era Biden que en gran medida han caído en el olvido. El medio cuenta además que Trump dijo que nombrará pronto a un “zar de la IA” y está considerando un comité de aproximadamente 10 personas para la supervisión de la IA, según el mismo medio.

Imagen de portada | Tierney L. Cross (Bloomberg)

En Xataka | Sam Altman ha cerrado la puerta a la salida a bolsa de OpenAI. Los inversores le han abierto una ventana de 30.000 millones