El gobernador de California Newsom emite una orden ejecutiva para frenar la IA

El gobernador de California, Gavin Newsom, emitió el viernes una orden ejecutiva destinada a abordar los peligros potenciales relacionados con la inteligencia artificial.

Newsom es parte de un grupo de aspirantes presidenciales demócratas para 2028 que han instado a un enfoque regulatorio más agresivo para la tecnología en rápida evolución, después de que un investigador de Anthropic renunció y advirtió sobre las capacidades de la IA potencialmente mortales para la humanidad en una publicación en las redes sociales a principios de este mes.

La publicación desató un frenesí en Washington, DC, mientras los legisladores luchan por establecer barreras de seguridad para la IA. Pero parece poco probable que el Congreso adopte alguna medida legislativa significativa sobre los temores de la IA antes de las elecciones intermedias de 2026, y hasta ahora el presidente Donald Trump se ha resistido a los pedidos de regulación.

«El abyecto fracaso del gobierno federal a la hora de crear cualquier forma significativa de supervisión o rendición de cuentas de la IA debería alarmar a todos los estadounidenses, especialmente cuando los propios directores ejecutivos de la IA están rogando por una regulación», dijo Newsom en un comunicado el viernes.

«No estamos esperando para actuar: vamos a acelerar nuestro trabajo sobre una supervisión sustancial y responsable de la IA antes de que sea demasiado tarde. Vamos a hacer esto cuidadosamente pero con rapidez urgente; hay demasiado en juego como para esperar o retrasar la acción», continuó Newsom.

La orden convoca a un grupo de expertos a reunirse y crear, dentro de dos meses, una guía para que el estado fortalezca sus leyes de seguridad y protección de la IA. Esas leyes mejoradas pueden incluir un requisito para que terceros independientes redacten planes de seguridad para empresas de inteligencia artificial de frontera, o exigir que las empresas desarrollen un «interruptor de apagado» para apagar sus modelos en caso de emergencia, según un anuncio de la oficina de Newsom.

Si bien Trump ha calificado de «engaño» los temores sobre la seguridad de la IA, los demócratas se han manifestado en gran medida en torno a los llamamientos a favor de regulaciones más estrictas. Y aquellos con ambiciones presidenciales han estado entre las voces más fuertes en las últimas semanas.

El gobernador de Pensilvania, Josh Shapiro, también ha pedido una supervisión por parte de «terceros» de los modelos fronterizos y barreras de seguridad más estrictas. El senador Mark Kelly, demócrata por Arizona, dijo a Politico que está presentando una legislación para crear un fondo pagado por empresas de inteligencia artificial que apoyaría a los trabajadores desplazados por la tecnología. Y el senador Cory Booker, DN.J., instó a Trump a convocar una sesión especial del Congreso para abordar los riesgos de la IA.

Newsom, cuyo mandato como gobernador de California finaliza el 4 de enero, no ha anunciado una campaña presidencial, aunque ha dicho que está reflexionando sobre la posibilidad.

En su anuncio de la orden ejecutiva, Newsom promocionó las leyes que ya están vigentes en el estado, incluida una que él mismo firmado a principios de este mes que crea un marco para auditores de IA externos.

«Mientras Washington abdica de su responsabilidad de proteger a los estadounidenses, California está aprovechando el marco regulatorio de IA más sólido del país», dijo Newsom. «California ya ha construido un modelo nacional y nuestra política debería ser la base nacional».