Políticos buscan colaboración para enfrentar la seguridad de la IA y EE.UU. establece un instituto de seguridad
El mundo está atrapado en una carrera y competencia por el dominio de la IA, pero hoy, algunos de ellos parecieron unirse para decir que preferirían colaborar cuando se trata de mitigar el riesgo.
En su intervención en la Cumbre de Seguridad de la IA celebrada en Bletchley Park (Inglaterra), la ministra de tecnología del Reino Unido, Michelle Donelan, anunció un nuevo documento de políticas, denominado Declaración de Bletchley, cuyo objetivo es alcanzar un consenso global sobre cómo abordar los riesgos que plantea la IA ahora y en el futuro a medida que se desarrolle. También dijo que la cumbre se convertirá en un evento regular y recurrente: está previsto celebrar otra reunión en Corea dentro de seis meses, dijo; y uno más en Francia seis meses después.
Al igual que el tono de la propia conferencia, el documento publicado hoy es de un nivel relativamente alto.
“Para darnos cuenta de esto, afirmamos que, por el bien de todos, AI debe diseñarse, desarrollarse, implementarse y utilizarse de manera segura, centrada en el ser humano, confiable y responsable”, señala el documento. También llama la atención específicamente sobre el tipo de grandes modelos de lenguaje que están desarrollando empresas como OpenAI, Meta y Google y las amenazas específicas que podrían representar por su mal uso.
“Los riesgos de seguridad particulares surgen en la ‘frontera’ de AIentendidos como aquellos de propósito general altamente capaces AI modelos, incluidos los modelos básicos, que podrían realizar una amplia variedad de tareas, así como tareas estrechas específicas relevantes. AI que podrían exhibir capacidades que causan daño, que igualan o superan las capacidades presentes en los modelos más avanzados de hoy”, señaló.
Paralelamente, se produjeron algunos acontecimientos concretos.
Gina Raimondo, secretaria de Comercio de EE. UU., anunció un nuevo instituto de seguridad de IA que estaría ubicado dentro del Departamento de Comercio y específicamente bajo el Instituto Nacional de Estándares y Tecnología (NIST) del departamento.
El objetivo, dijo, sería que esta organización trabajara estrechamente con otros grupos de seguridad de la IA creados por otros gobiernos, destacando planes para una Instituto de Seguridad que el Reino Unido también planea establecer.
“Tenemos que ponernos a trabajar y entre nuestros institutos tenemos que ponernos a trabajar para [achieve] alineación de políticas en todo el mundo”, dijo Raimondo.
Los líderes políticos en la sesión plenaria de apertura de hoy incluyeron no solo representantes de las economías más grandes del mundo, sino también varios que hablaron en nombre de los países en desarrollo, colectivamente el Sur Global.
El cartel incluía a Wu Zhaohui, viceministro de Ciencia y Tecnología de China; Vera Jourova, vicepresidenta de Valores y Transparencia de la Comisión Europea; Rajeev Chandrasekhar, ministro de Estado de Electrónica y Tecnología de la Información de la India; Omar Sultan al Olama, Ministro de Estado de Inteligencia Artificial de los EAU; y Bosun Tijani, ministro de tecnología de Nigeria. Colectivamente, hablaron de inclusión y responsabilidad, pero con tantos interrogantes sobre cómo implementarlas, la prueba de su dedicación aún está por verse.
«Me preocupa que una carrera para crear máquinas potentes supere nuestra capacidad de salvaguardar la sociedad», afirmó Ian Hogarth, fundador, inversor e ingeniero, que actualmente preside el grupo de trabajo del gobierno del Reino Unido sobre modelos fundamentales de IA, que ha tenido una un gran papel que desempeñar en la organización de esta conferencia. “Nadie en esta sala sabe con certeza cómo o si estos próximos saltos en la potencia informática se traducirán en beneficios o daños. Hemos estado tratando de aterrizar [concerns of risks] en empirismo y rigor [but] nuestra actual falta de comprensión… es bastante sorprendente.
“La historia juzgará nuestra capacidad para hacer frente a este desafío. Nos juzgará por lo que hagamos y digamos durante los próximos dos días”.
