Mi episodio favorito de “Twilight Zone” es aquel en el que los extraterrestres aterrizan y, en señal de sus intenciones pacíficas, les dan un libro a los líderes mundiales. Los criptógrafos del gobierno trabajan para traducir el idioma extraño. Descifran el título…servir al hombre” – y eso es tranquilizador, por eso se crean transbordadores interplanetarios.
Pero a medida que los criptógrafos avanzan, se dan cuenta, demasiado tarde, de que se trata de un libro de cocina.
Esa, querido lector, es la historia de OpenAI.
Fue fundada en 2015 como una organización sin fines de lucro para servir al hombre, vigilar la galopante tecnología de IA y garantizar que hubiera barandillas e interruptores de apagado, porque cuando la IA llegue a la pubertad, será como el aterrizaje de extraterrestres.
Cuando yo entrevistado En su improvisada sede de San Francisco en 2016, los fundadores de OpenAI (Sam Altman, Elon Musk, Ilya Sutskever y Greg Brockman) se presentaron como nuestra guardia pretoriana contra la futura amenaza de una IA malvada y desbocada, contra malos actores y robots malos, y Todos los señores de la nube que hicieron soñar a Mary Shelley con crear una nueva especie, al diablo con la humanidad.
«Explícitamente no intentamos enriquecernos», me dijo Sutskever.
Brockman fue igualmente altivo: “No basta con producir esta tecnología y tirarla por encima de la valla y decir: ‘Está bien, nuestro trabajo está hecho. Simplemente deja que el mundo lo resuelva’”.
Pero OpenAI está arrojando muchas cosas alarmantes por encima de la valla. Musk se ha ido y Altman ya no se presenta como el perro guardián de la humanidad. Dirige una empresa con fines de lucro y crea un libro de cocina sobre inteligencia artificial. Está menos interesado en el peligro que los inversores, menos preocupado por el peligro existencial que por encontrar las capacidades de la IA. «Cuando ves algo que es técnicamente dulce», Robert Oppenheimer dicho«sigue adelante y hazlo».
El gobierno ha mordisqueado los límites de la regulación, pero la mercuriosa IA ya se ha adelantado a los legisladores y burócratas que parecen caracoles. Nadie, ni siquiera en Silicon Valley, tiene idea de cómo controlarlo.
El viaje salvaje de OpenAI hace dos semanas fue una farsa: un golpe contra Altman que colapsó y se convirtió en una restauración. Pero también fue aterrador porque demostró que estamos totalmente a merced de los chicos de Silicon Valley con sus juguetes, sus egos derrumbándose, sus temperamentos chocando, su ambición y su codicia disparadas.
Independientemente de lo que quiera decir sobre el reciente desmoronamiento de Musk (su lado maníaco, sus tweets ofensivos, su extraño y angular cibercamión), ha trabajado apasionadamente contra la IA rebelde. La búsqueda quizás quijotesca de alinear el progreso de la IA para proteger los valores humanos ha causado a Musk muchas Noches de insomnio y muchas amistades fracturadas.
Atrajo a Sutskever, un deslumbrante ingeniero ruso, de Google a OpenAI. Larry Page, cofundador de Google y aceleracionista de la IA, estaba furioso con su buen amigo Musk por cazar furtivamente a Sutskever y rompió con él. Page le dijo desdeñosamente a Musk que era “un especista” por ponerse del lado de la especie humana en el argumento de la IA.
Musk también rompió con Altman. Como escribió Walter Isaacson en “Elon Musk”, el voluble magnate convocó a Altman en febrero y le pidió que trajera los documentos fundacionales de OpenAI. No mucho después, Musk tuiteó: “Todavía estoy confundido en cuanto a cómo una organización sin fines de lucro a la que doné $100 millones de alguna manera se convirtió en una capitalización de mercado de $30 mil millones con fines de lucro. Si esto es legal, ¿por qué no todo el mundo lo hace?”
En declaraciones a Kara Swisher, Altman llamó a Musk un «imbécil».
Al igual que con Shakespeare, los choques de personalidad están dando forma a decisiones de vida o muerte en la batalla por la IA. Una cosa que puede haber desencadenado la rebelión contra Altman fue que disminuyó el papel de Sutskever en la empresa.
Todavía no sabemos exactamente qué pasó. ¿Vio la junta algún progreso en el algoritmo de IA que los sacudió lo suficiente como para despedir a Altman por temor a que estuviera promocionando productos sin tener en cuenta las salvaguardias suficientes?
Ciertamente, la IA está mejorando en su razonamiento, cometiendo menos errores, alucinando menos (el término para inventar cosas) y resolviendo complicados acertijos matemáticos.
Musk elogió recientemente a Sutskever por tener “una buena brújula moral”. ¿El joven ingeniero, que se unió a los fatalistas en la junta directiva y le dio las malas noticias a Altman antes de retractarse, estaba influenciado por su mentor en Google, Geoffrey Hinton?
Hinton, el llamado padrino de la inteligencia artificial, quedó atónito ante el bebé milagroso de OpenAI, ChatGPT, al darse cuenta de que tal vez solo falten unos pocos años para que la IA sea más inteligente que nosotros. Hinton con tristeza dijo «60 minutos» En octubre, la IA podría volverse malévolamente contra nosotros, manipulándonos con lo que ha aprendido al recibir todos los libros jamás escritos, incluidas las obras de Maquiavelo.
A diferencia de Musk, que puede ser incómodo y entrar en “modo demonio”, según Isaacson, Altman es fluido en sus tratos con inversores, técnicos y legisladores, y se siente cómodo con camiseta y jeans. Un destacado científico de Silicon Valley describió a Altman, de 38 años, como «extrañamente adorable». Amable con muchos periodistas, ha asumido el papel de la cara optimista del futuro de la IA.
Pero, ¿queremos a alguien con una disposición alegre sobre la IA? No. No cuando, como dice Musk prevenido el jueves pasado, “El apocalipsis podría llegar en cualquier momento”.
