volver locas a otras inteligencias artificiales destrozando su entrenamiento

Ya está aquí la versión 1.0 de Glaze, la IA que ofrece a los artistas protección contra otras IA. Glaze se implementó en respuesta al lanzamiento de modelos de IA como MidJourney y Stable Diffusion, que son perturbaciones con millas de millones de imágenes sin autorización de los autores de las mismas. ¿Y en qué sentido ‘responde’ Glaze a este problema? Pues interfiriendo con la capacidad de esas otras IA para analizar ciertos detalles concretos de las obras de arte.

Así, una vez que una imagen ‘glazeada’ es descargada e incluida en un conjunto de datos de entrenamiento, la IA en entrenamiento podrá procesar formas y objetos básicos en la misma, pero no podrá capturar lo que hace único a un artista: los patrones de aspectos como los trazos del pincel o las paletas de colores.

Esto se logra añadiendo un ‘camuflaje’ superpuesto a la imagen original (aunque uno que ofrece ‘robustez frente a la eliminación’, que no es tan fácil de quitar como una marca de agua) que le confunde y le hace pensar que está viendo el estilo que tú prefieres.

«El camuflaje no es una marca de agua frágil, que se ve o no se ve: es una transformación de la imagen en una dimensión que los humanos no perciben, pero sí en las dimensiones en las que el modelo de aprendizaje profundo percibe estas imágenes .

Así que las transformaciones que rotan, desenfocan, cambian la resolución, recortan, etc. , no aumentan a la capa, del mismo modo que esas operaciones no cambiarían tu percepción de lo que hace que un cuadro de Van Gogh sea ‘un Van Gogh’ «.

IA contra IA. ¿Objetivo? cortocircuitar

Este camuflaje permite seguir apreciando la imagen original, pero ‘vuelve loca’ a la otra IA. No es la primera vez que se aprecia este fenómeno: se llama ‘ataque antagónico’y en el pasado ya ha permitido imprimir en 3D tortugas que otras IA identificaban como rifleso pegatinas para el asfalto capaz de convencer a los Tesla de conducir en dirección contraria.

¿Ves ese curioso patrón en la concha de la tortuga? Pues eso, ya en 2017, las IA de reconocimiento visual lo interpretaron como un ‘rifle’. ¿Qué loco todo, eh?

Todo esto mientras el ojo humano sigue viendo tortugas perfectamente reconocibles y las indicaciones de tráfico correcto, claro. Ahí está la gracia.

Sin embargo, quizás Glaze se parezca más a la pintura facial capaz de ‘cortocircuitar’ el reconocimiento de rostros mediante IA (sí, también hay de eso) o los parches para la ropa anti-reconocimiento de personasporque en este caso el ojo humano si es capaz de apreciar una (ligera) diferencia.

Un camuflaje, ahora, configurable

Cuando la primera beta de Glaze se lanzó hace tres meses, no faltaron opiniones que lo vieron como una buena idea… pero entendieron que la percepción creada en la imagen original por el camuflaje visual añadido pudo afectar negativamente a su estéticalo que convertía a Glaze en una mala opción si pretendías vender tu arte online, por ejemplo.

A la izquierda, imagen alterada con la primera beta de Glaze. A la derecha, el resultado de usar Glaze 1.0.

La versión 1.0, sin embargo, ofrece a sus usuarios la opción de «controlar hasta qué punto el camuflaje modifica la obra de arte originaldesde la introducción de cambios totalmente imperceptibles hasta modificaciones ligeramente más visibles [que] proporciona una mayor protección contra la capacidad de la IA para robar el estilo».

¿No llegamos tarde?

Los pintores e ilustradores que están leyendo esto experimentarán, sin duda, sentimientos encontrados: ‘poder recurrir a Glaze es algo positivo, pero… ¿resultado útil hacer a estas alturascon docenas o cientos de obras de arte mías ya disponibles en Internet?’. La respuesta es sí… en la medida en que las nuevas versiones de los modelos vayan actualizando sus datasets de entrenamiento.

«Estos modelos de IA siempre están añadiendo más datos de entrenamiento para mejorar su precisión y estabilizarse al día de los cambios en las tendencias artísticas con el paso del tiempo. Cuantas más imágenes ‘glazeadas’ publicadas en Internet, más ‘cambiará tu estilo’ [de cara a esas IAs], acercándose al estilo objetivo. En algún momento, cuando el cambio sea lo suficientemente significativo, el modelo de IA comenzará a generar imágenes en el estilo de Van Gogh cuando se le pregunte por tu estilo.

Hemos comprobado que, siempre que se produce un cambio ligero en el espacio de características del modelo de IA, éste creará imágenes especialmente diferentes de tu estilo. Por ejemplo, las imágenes generadas pueden parecerse a un híbrido (incómodamente espeluznante) de tu estilo y el cubismo abstracto».

¿Y cómo lo uso?

Glaze se ejecuta localmente en Windows (preferentemente 10 y 11), y en Mac (Mac OS 13 o posterior) y se puede descargar gratis su sitio web oficial