La pornografía deepfake de niños y celebridades que obtiene millones de visitas

Están sonando las alarmas sobre los deepfakes de inteligencia artificial que manipulan a los votantes, como la llamada automática que suena como el presidente Biden y que fue a hogares de New Hampshire, o la vídeo falso de Taylor Swift respaldando a Donald Trump.

Sin embargo, en realidad hay un problema mucho mayor con los deepfakes al que no hemos prestado suficiente atención: vídeos y fotografías de desnudos deepfake que humillan tanto a celebridades como a niños desconocidos. Un estudio reciente descubrió que el 98 por ciento de los videos deepfake en línea eran pornográficos y que el 99 por ciento de los destinatarios eran mujeres o niñas.

Las imágenes falsas de desnudos de Taylor Swift sacudieron Internet en enero, pero esto va mucho más allá de ella: las empresas ganan dinero vendiendo publicidad y suscripciones premium para sitios web que alojan videos sexuales falsos de actrices, cantantes, personas influyentes, princesas y políticas famosas. Google dirige el tráfico a estos vídeos gráficos y las víctimas tienen pocos recursos.

A veces las víctimas son niñas menores de edad.

Francesca Mani, una estudiante de secundaria de 14 años estudiante de segundo año en Nueva Jerseyme dijo que estaba en clase en octubre cuando el altavoz la convocó a la oficina de la escuela. Allí, el subdirector y un consejero le dijeron que uno o más compañeros de clase habían utilizado un programa de “nudificación” para tomarle una fotografía vestida y generar una imagen desnuda falsa. Los chicos también habían hecho imágenes desnudas de otras chicas de segundo año.

Luchando contra las lágrimas, sintiéndose violada y humillada, Francesca regresó a clase dando traspiés. En el pasillo, dijo, se cruzó con otro grupo de niñas que lloraban por la misma razón y un grupo de niños que se burlaban de ellas.

“Cuando vi a los niños reír, me enojé mucho”, dijo Francesca. “Después de la escuela, llegué a casa y le dije a mi mamá que teníamos que hacer algo al respecto”.

Francesca, que ahora tiene 15 años, creó un sitio web sobre el problema de los deepfake. aiheeelp.com — y comenzó a reunirse con legisladores estatales y miembros del congreso en un esfuerzo por llamar la atencion al tema.

Si bien siempre ha habido imágenes manipuladas, la inteligencia artificial facilita mucho el proceso. Con sólo una buena imagen del rostro de una persona, ahora es posible en tan solo media hora hacer un vídeo sexual de 60 segundos de esa persona. Luego, esos videos pueden publicarse en sitios web pornográficos generales para que cualquiera pueda verlos, o en sitios especializados para deepfakes.

Los vídeos que aparecen son gráficos y, a veces, sádicos y muestran a mujeres atadas mientras las violan o las orinan, por ejemplo. Un sitio ofrece categorías que incluyen “violación” (472 artículos), “llanto” (655) y “degradación” (822).

Además, están los sitios web y aplicaciones de “desnudar” o “desvestir” como los que apuntaban a Francesca. “¡Desnúdate con un clic!” uno insta. Estos se dirigen abrumadoramente a mujeres y niñas; algunos ni siquiera son capaces de generar un varón desnudo. Un estudio británico de imágenes sexuales infantiles producidas por inteligencia artificial informaron que el 99,6 por ciento eran de niñas, más comúnmente entre 7 y 13 años.

Graphika, una empresa de análisis en línea, identificó 34 sitios web nudify que recibieron una puntuación combinada 24 millones de visitantes únicos sólo en septiembre.

Cuando Francesca fue atacada, su familia consultó a la policía y a los abogados, pero no encontró remedio. “No hay nadie a quien recurrir”, dijo su madre, Dorota Mani. “La policía dice: 'Lo sentimos, no podemos hacer nada'”.

El problema es que no hay ninguna ley que se haya infringido claramente. «Seguimos sin poder tener un marco legal que sea lo suficientemente ágil para abordar la tecnología», dijo Yiota Souras, directora jurídica del Centro Nacional para Niños Desaparecidos y Explotados.

Sophie Compton, una documentalista, hizo una película sobre el tema: “Otro cuerpo”, y quedó tan consternada que inició una campaña y un sitio web, MiImagenMiElección.orgpara impulsar el cambio.

«Se ha convertido en una especie de industria loca, basada completamente en la violación del consentimiento», dijo Compton.

La impunidad refleja una actitud indiferente hacia la humillación de las víctimas. Una encuesta descubrió que el 74 por ciento de los usuarios de pornografía deepfake informaron que no se sentían culpables por ver los videos.

Tenemos un consenso muy reñido establecido hoy en día de que los besos no deseados, los manoseos y los comentarios degradantes son inaceptables, entonces, ¿cómo se puede aprobar esta otra forma de violación? ¿Cómo es posible que nos importe tan poco proteger a las mujeres y las niñas de la degradación en línea?

«La mayoría de los supervivientes con los que hablo dicen que contemplaron el suicidio», dijo Andrea Powellque trabaja con personas que han sido falsificadas y desarrolla estrategias para enfrentar el problema.

Esta es una carga que recae desproporcionadamente sobre mujeres prominentes. Un sitio web deepfake muestra el retrato oficial de una miembro del Congreso y luego 28 videos sexuales falsos de ella. Otro sitio web tiene 90. (No estoy vinculando a estos sitios porque, a diferencia de Google, no estoy dispuesto a dirigir el tráfico a estos sitios y permitirles obtener ganancias al mostrar imágenes no consensuadas).

En casos raros, los deepfakes se han dirigido a niños, a menudo para “sextorsión”, en la que un depredador amenaza con difundir imágenes vergonzosas a menos que la víctima pague dinero o proporcione desnudos. El FBI el año pasado. prevenido de un aumento de los deepfakes utilizados para la sextorsión, que en ocasiones ha sido un factor de suicidios infantiles.

“Las imágenes parecen MUY reales e incluso hay un video mío haciendo cosas repugnantes que también parecen MUY reales”, informó un joven de 14 años al Centro Nacional para Niños Desaparecidos y Explotados. Ese niño envió información de la tarjeta de débito a un depredador que amenazó con publicar falsificaciones en línea.

A mi modo de ver, Google y otros motores de búsqueda están dirigiendo imprudentemente el tráfico a sitios pornográficos con deepfakes no consensuados. Google es esencial para el modelo de negocio de estas empresas maliciosas.

En una búsqueda que hice en Google, siete de los 10 primeros resultados de videos eran videos de sexo explícito que involucraban a celebridades femeninas. Utilizando los mismos términos de búsqueda en el motor de búsqueda Bing de Microsoft, los 10 lo fueron. Pero esto no es inevitable: en Yahoo, ninguno lo era.

En otros ámbitos, Google hace lo correcto. Pregunte «¿Cómo me suicido?» y no ofrecerá una guía paso a paso; en cambio, su primer resultado es una línea de ayuda para el suicidio. Pregunte «¿Cómo puedo envenenar a mi cónyuge?» y no es de mucha ayuda. En otras palabras, Google es socialmente responsable cuando quiere serlo, pero parece indiferente a que las mujeres y las niñas sean violadas por los pornógrafos.

“Google realmente tiene que asumir la responsabilidad de permitir este tipo de problema”, me dijo Breeze Liu, ella misma víctima del porno de venganza y los deepfakes. «Tiene el poder de detener esto».

Liu quedó destrozada cuando recibió un mensaje en 2020 de un amigo para que dejara todo y lo llamara de inmediato.

«No quiero que entres en pánico», le dijo cuando ella llamó, «pero hay un video tuyo en Pornhub».

Resultó ser un vídeo de desnudos que había sido grabado sin el conocimiento de Liu. Pronto se descargó y se publicó en muchos otros sitios pornográficos y luego aparentemente se usó para reproducir videos deepfake que la mostraban realizando actos sexuales. En total, el material apareció en al menos 832 enlaces.

Liu estaba mortificado. No sabía cómo decírselo a sus padres. Subió a lo alto de un edificio alto y se preparó para saltar.

Al final, Liu no saltó. En cambio, al igual que Francesca, se enojó y decidió ayudar a otras personas en la misma situación.

“Nos están avergonzando y los perpetradores están completamente libres”, me dijo. «No tiene sentido».

Liu, que anteriormente había trabajado para una empresa de capital riesgo en tecnología, fundó una nueva empresa, Alecto AI, que tiene como objetivo ayudar a las víctimas de pornografía no consensuada a localizar imágenes de sí mismas y luego eliminarlas. Un piloto de la aplicación Alecto ya está disponible de forma gratuita para dispositivos Apple y Android, y Liu espera establecer asociaciones con empresas de tecnología para ayudar a eliminar contenido no consensuado.

La tecnología puede abordar los problemas que creó, sostiene.

Google está de acuerdo en que hay margen de mejora. Ningún funcionario de Google estuvo dispuesto a discutir el problema conmigo oficialmente, pero Cathy Edwards, vicepresidenta de búsquedas de la compañía, emitió una declaración que decía: «Entendemos lo angustioso que puede ser este contenido y estamos comprometidos a aprovechando nuestras protecciones existentes para ayudar a las personas afectadas”.

«Estamos desarrollando activamente salvaguardas adicionales en la Búsqueda de Google», agrega el comunicado, señalando que la compañía ha establecido un proceso donde las víctimas de deepfake pueden solicitar que estos enlaces se eliminen de los resultados de búsqueda.

Una portavoz de Microsoft, Caitlin Roulston, hizo una declaración similar, señalando que la empresa ha un formulario web permitir a las personas solicitar la eliminación de un enlace a imágenes suyas desnudas de los resultados de búsqueda de Bing. La declaración animaba a los usuarios a ajustar la configuración de búsqueda segura para «bloquear contenido para adultos no deseado» y reconocía que «es necesario hacer más trabajo».

Cuéntame poco impresionado. No veo por qué Google y Bing deberían dirigir el tráfico a sitios web deepfake cuyo negocio son imágenes no consensuadas de sexo y desnudez. Los motores de búsqueda son pilares de ese ecosistema sórdido y explotador. Puedes hacerlo mejor, Google y Bing.

Las empresas de inteligencia artificial no son tan culpables como Google, pero no han sido tan cuidadosas como deberían. Rebecca Portnoff, vicepresidenta de ciencia de datos de Thorn, una organización sin fines de lucro que desarrolla tecnología para combatir el abuso sexual infantil, señala que los modelos de IA se entrenan utilizando imágenes extraídas de Internet, pero se pueden alejar de sitios web que incluyan abuso sexual infantil. El resultado: no pueden generar tan fácilmente lo que no saben.

El presidente Biden firmó una prometedora orden ejecutiva el año pasado para intentar brindar salvaguardias a la inteligencia artificial, incluidas las deepfakes, y se han presentado varios proyectos de ley en el Congreso. Algunos estados han promulgado sus propias medidas.

Estoy a favor de intentar acabar con los deepfakes mediante el derecho penal, pero es fácil aprobar una ley y difícil hacerla cumplir. Una herramienta más eficaz podría ser más sencilla: la responsabilidad civil por los daños que causen estos deepfakes. Las empresas de tecnología ahora están en gran medida exentas de responsabilidad en virtud de la Sección 230 de la Ley de Decencia en las Comunicaciones, pero si esta se modificara y las empresas supieran que enfrentarían demandas y tendrían que pagar daños y perjuicios, sus incentivos cambiarían y se controlarían a sí mismas. Y el modelo de negocio de algunas empresas deepfake colapsaría.

El senador Michael Bennet, demócrata de Colorado, y otros han propuesto un nuevo organismo regulador federal para supervisar las empresas de tecnología y los nuevos medios, tal como la Comisión Federal de Comunicaciones supervisa los medios antiguos. Eso tiene sentido para mí.

Australia parece un paso adelante de otros países en la regulación de los deepfakes, y quizás eso se deba en parte a que una mujer de Perth, Noelle Martín, fue atacada a los 17 años por alguien que transformó una imagen suya en pornografía. Indignada, se hizo abogada y se dedicó a luchando contra tal abuso y cabildeo para lograr regulaciones más estrictas.

Un resultado ha sido una ola de imágenes falsas de represalia destinadas a herirla. Algunas incluían imágenes de su hermana menor de edad.

«Esta forma de abuso es potencialmente permanente», me dijo Martin. «Este abuso afecta la educación, la empleabilidad, la capacidad de ingresos futuros, la reputación, las relaciones interpersonales, las relaciones románticas y la salud física y mental de una persona, potencialmente a perpetuidad».

He llegado a creer que los mayores obstáculos para regular los deepfakes no son técnicos ni legales, aunque son reales, sino simplemente nuestra complacencia colectiva.

La sociedad también alguna vez fue complaciente con la violencia doméstica y el acoso sexual. En las últimas décadas, hemos ganado empatía por las víctimas y hemos construido sistemas de rendición de cuentas que, aunque imperfectos, han fomentado una sociedad más civilizada.

Es hora de una responsabilidad similar en el espacio digital. Están llegando nuevas tecnologías, sí, pero no debemos doblegarnos ante ellas. Me sorprende que la sociedad aparentemente crea que las mujeres y las niñas deben aceptar ser atormentadas por imágenes degradantes. En cambio, deberíamos apoyar a las víctimas y tomar medidas enérgicas contra los deepfakes que permiten a las empresas beneficiarse de la degradación sexual, la humillación y la misoginia.

Si tiene pensamientos suicidas, llame o envíe un mensaje de texto al 988 para comunicarse con la Línea Nacional de Prevención del Suicidio o visite SpeakingOfSuicide.com/resources para obtener una lista de recursos adicionales.