Imagine una historia corta de la época dorada de la ciencia ficción, algo que aparecería en una revista pulp en 1956. Nuestro título es “El motor de la verdad” y la historia visualiza un futuro en el que las computadoras, esas cosas descomunales que van del piso al techo , se vuelve lo suficientemente potente como para guiar a los seres humanos hacia las respuestas a cualquier pregunta que puedan formular, desde la capital de Bolivia hasta la mejor manera de marinar un bistec.
¿Cómo terminaría una historia así? Con algún tipo de revelación, sin duda, de una agenda secreta que se esconde detrás de la promesa de un conocimiento global. Por ejemplo, tal vez haya un Truth Engine 2.0, más inteligente y creativo, que todos están ansiosos por tener en sus manos. Y luego un grupo de disidentes descubre que la versión 2.0 es fanática y loca, que el Motor acaba de preparar a los humanos para un lavado de cerebro totalitario o una extinción involuntaria.
Este vuelo de fantasía está inspirado en la versión propia de nuestra sociedad del Truth Engine, el oráculo de Google, que recientemente presentó a Gemini, el último participante en la gran carrera de la inteligencia artificial.
Los usuarios no tardaron en notar ciertas… rarezas con Gemini. El más notable fue su lucha por ofrecer representaciones precisas de los vikingos, los antiguos romanos, los padres fundadores americanos, parejas aleatorias en la Alemania de 1820 y varios otros grupos demográficos generalmente caracterizados por un tono de piel más pálido.
Tal vez el problema era simplemente que la IA estaba programada para la diversidad racial en imágenes de archivo, y sus representaciones históricas de alguna manera (como lo expresó una declaración de la compañía) “no habían dado en el blanco”: mostraban, por ejemplo, rostros africanos y asiáticos con uniformes de la Wehrmacht en respuesta a una solicitud para ver a un soldado alemán alrededor de 1943.
Pero la forma en que Gemini respondió las preguntas hizo que sus valores predeterminados no blancos parecieran más bien una extraña emanación de la visión del mundo subyacente de la IA. Los usuarios informaron haber sido sermoneados sobre “estereotipos dañinos” cuando pidió ver una imagen de Norman Rockwell, les dijeron que podían ver fotografías de Vladimir Lenin pero no de Adolf Hitler, y las rechazaron cuando solicitaron imágenes que representaban a grupos. especificado como blanco (pero no otras carreras).
Nate Plata reportado obteniendo respuestas que parecían seguir “la política del miembro medio de la Junta de Supervisores de San Francisco”. Tim Carney del Washington Examiner descubierto que Géminis defendería la idea de no tener hijos, pero no la de tener una familia numerosa; se negó a dar una receta de foie gras por cuestiones éticas, pero explicó que el canibalismo era un problema con muchos matices de gris.
Describir este tipo de resultados como «IA despierta» no es un insulto. Es una descripción técnica de lo que el motor de búsqueda dominante en el mundo decidió publicar.
Hay tres reacciones que uno podría tener ante esta experiencia. La primera es la típica reacción conservadora, menos sorpresa que reivindicación. Aquí tenemos una mirada detrás de la cortina, una revelación de lo que realmente creen las personas poderosas responsables de nuestra dieta informativa diaria: que cualquier cosa contaminada por la blancura es sospechosa, cualquier cosa que parezca vagamente no occidental recibe una deferencia especial, y la historia misma necesita ser reconfigurados y descolonizados para que sean aptos para el consumo moderno. Google se extralimitó al ser tan descarado en este caso, pero podemos suponer que toda la arquitectura de la Internet moderna tiene un sesgo más sutil en la misma dirección.
La segunda reacción es más relajada. Sí, Géminis probablemente muestra lo que creen algunos responsables de la corrección ideológica en Silicon Valley. Pero no vivimos en una historia de ciencia ficción con un único Truth Engine. Si la barra de búsqueda de Google arrojara resultados al estilo Géminis, los usuarios la abandonarían. Y Gemini está siendo objeto de burlas en todo Internet que no sea Google, especialmente en una plataforma rival dirigida por un multimillonario famoso por no despertarse. Es mejor unirse a la burla que temer a la IA despierta, o mejor aún, unirse el cantante Grimes, la amante en algún momento del multimillonario despierto, al maravillarse ante lo que surgió del torturado algoritmo de Géminis, tratando los resultados como una “obra maestra del arte escénico”, una “estrella brillante del surrealismo corporativo”.
La tercera reacción considera las dos tomas anteriores y dice, bueno, mucho depende de hacia dónde creas que se dirige la IA. Si todo el proyecto sigue siendo una forma de búsqueda sobrealimentada, un generador de ensayos mediocres e infinitas distracciones desechables, entonces cualquier intento de utilizar sus poderes para imponer una agenda ideológica fanática probablemente quede enterrado bajo toda la basura.
Pero los arquitectos de algo como Gemini no piensan que su trabajo se dirige hacia allí. Se imaginan que están construyendo algo. cerca de Divino, algo que podría ser un Motor de la Verdad en su totalidad (resolviendo problemas en formas que ni siquiera podemos imaginar) o podría convertirse en nuestro maestro y sucesor, haciendo que todas nuestras preguntas queden obsoletas.
Cuanto más en serio tomes ese punto de vista, menos divertida se vuelve la experiencia de Géminis. Poner el poder de crear un chatbot en manos de tontos y comisarios es un divertido error corporativo. Poner el poder de convocar a un semidiós o un demonio menor en manos de tontos y comisarios parece más probable que termine de la misma manera que muchos cuentos de ciencia ficción: desgraciadamente para todos.
El Times se compromete a publicar una diversidad de letras al editor. Nos gustaría saber qué piensa sobre este o cualquiera de nuestros artículos. Aquí están algunas consejos. Y aquí está nuestro correo electrónico: [email protected].
Siga la sección de Opinión del New York Times sobre Facebook, Instagram, Tik Tok, X y Hilos.
