La divisiva «personalización» de las grandes tecnologías genera una nueva petición para desactivar los canales de contenido basados en perfiles por defecto en la UE.

Podría estar surgiendo otro tira y afloja político en torno a los sistemas de recomendación de contenidos de las grandes empresas tecnológicas en la Unión Europea, donde la Comisión se enfrenta a un llamamiento de varios parlamentarios para frenar los feeds de contenidos basados ​​en perfiles, también conocidos como motores de “personalización” que procesan datos de los usuarios. para determinar qué contenido mostrarles.

El seguimiento y la elaboración de perfiles de los usuarios por parte de las principales plataformas para alimentar contenidos «personalizados» han generado durante mucho tiempo preocupaciones sobre posibles daños para los individuos y las sociedades democráticas, y los críticos sugieren que la tecnología impulsa la adicción a las redes sociales y plantea riesgos para la salud mental de las personas vulnerables. También existe la preocupación de que la tecnología esté socavando la cohesión social a través de una tendencia a amplificar contenido divisivo y polarizador que puede empujar a las personas hacia extremos políticos al canalizar su indignación y enojo.

El carta, firmado por 17 eurodiputados de grupos políticos, incluidos el S&D, la izquierda, los verdes, el PPE y Renew Europe, aboga por que los sistemas de recomendación de las plataformas tecnológicas se apaguen de forma predeterminada, una idea que surgió durante las negociaciones sobre la Ley de Servicios Digitales (DSA) del bloque. ) pero que no llegó al reglamento final porque no contaba con una mayoría democrática. En cambio, los legisladores de la UE acordaron medidas de transparencia para los sistemas de recomendación, junto con el requisito de que las plataformas más grandes (las llamadas VLOP) deben proporcionar al menos una fuente de contenido que no se base en perfiles.

Pero en su carta, los eurodiputados presionan para que se suspenda de forma generalizada esta tecnología. «Los sistemas de recomendación basados ​​en interacción, en particular los sistemas hiperpersonalizados, representan una grave amenaza para nuestros ciudadanos y nuestra sociedad en general, ya que priorizan el contenido emotivo y extremo, específicamente dirigido a personas que probablemente sean provocadas», escriben.

“El ciclo insidioso expone a los usuarios a contenido sensacionalista y peligroso, prolongando su participación en la plataforma para maximizar los ingresos publicitarios. El experimento de Amnistía en TikTok reveló que el algoritmo expuso a un niño simulado de 13 años a vídeos que glorificaban el suicidio en tan solo una hora. Además, la investigación interna de Meta reveló que un significativo 64% de las uniones a grupos extremistas son el resultado de sus herramientas de recomendación, lo que exacerba la propagación de ideologías extremistas”.

La llamada sigue Proyecto de guía de seguridad en línea para plataformas para compartir videos., publicado a principios de este mes por la comisión de medios de Irlanda (Coimisiún na Meán), que será responsable de la supervisión de la DSA a nivel local una vez que la regulación entre en vigor en los servicios incluidos el próximo febrero. Coimisiún na Meán está actualmente consultando sobre una guía que propone que las plataformas para compartir videos deberían tomar “medidas para garantizar que los algoritmos de recomendación basados ​​en perfiles estén desactivados de forma predeterminada”.

La publicación de la guía siguió a un episodio de violentos disturbios cívicos en Dublín que, según sugirió la autoridad policial del país, había sido avivado por información errónea difundida en las redes sociales y aplicaciones de mensajería por “hooligans” de extrema derecha. Y, a principios de esta semana, el Consejo Irlandés de Libertades Civiles (ICCL), que lleva mucho tiempo haciendo campaña sobre cuestiones de derechos digitales, también pidió a la Comisión que apoye la propuesta de Coimisiún na Meán, así como que publique su propio informe aboga por que los feeds personalizados estén desactivados de forma predeterminada, ya que argumenta que los algoritmos de las redes sociales están destrozando a las sociedades.

En su carta, los eurodiputados también aprovechan la propuesta del regulador de medios irlandés, sugiriendo que abordaría «eficazmente» cuestiones relacionadas con los sistemas de recomendación que tienen una tendencia a promover «contenido emotivo y extremo» que, según afirman de manera similar, puede dañar la cohesión cívica.

La carta también hace referencia a una recientemente adoptada informe del parlamento europeo sobre el diseño adictivo de servicios en línea y la protección del consumidor que, según dicen, «destacó el impacto perjudicial de los sistemas de recomendación en los servicios en línea que se dedican a elaborar perfiles de personas, especialmente menores, con la intención de mantener a los usuarios en la plataforma el mayor tiempo posible, manipulándolos así a través de la amplificación artificial del odio, el suicidio, la autolesión y la desinformación”.

“Pedimos a la Comisión Europea que siga el ejemplo de Irlanda y adopte medidas decisivas no sólo aprobando esta medida en el marco del TRIS [Technical Regulations Information System] procedimiento, sino también recomendando esta medida como medida de mitigación que deben adoptar las plataformas en línea de gran tamaño [VLOPs] Según el artículo 35(1)(c) de la Ley de Servicios Digitales para garantizar que los ciudadanos tengan un control significativo sobre sus datos y su entorno en línea», escriben los eurodiputados, y añaden: «La protección de nuestros ciudadanos, especialmente la generación más joven, es de suma importancia. importancia, y creemos que la Comisión Europea tiene un papel crucial que desempeñar para garantizar un entorno digital seguro para todos. Esperamos su acción rápida y decisiva en este asunto”.

Según TRIS, los Estados miembros de la UE deben notificar a la Comisión los proyectos de reglamentos técnicos antes de que se adopten como ley nacional para que la UE pueda llevar a cabo una revisión legal para garantizar que las propuestas sean consistentes con las reglas del bloque (en este caso, la DSA). .

El sistema significa que las leyes nacionales que buscan «dorar» las regulaciones de la UE probablemente no pasen la revisión. Por lo tanto, la propuesta de la comisión de medios irlandesa de desactivar por defecto los sistemas de recomendación de las plataformas de vídeo puede no sobrevivir al proceso TRIS, dado que parece ir más allá de la letra de la ley pertinente.

Dicho esto, incluso si la propuesta de Coimisiún na Meán no pasa la revisión de coherencia legal de la UE, la DSA sí impone un requisito a las plataformas más grandes (también conocidas como VLOPS) para evaluar y mitigar los riesgos que surgen de los sistemas de recomendación. Entonces es al menos posible Las plataformas podrían decidir apagar ellos mismos estos sistemas de forma predeterminada como medida de cumplimiento para cumplir con sus obligaciones de mitigación del riesgo sistémico de DSA.

Aunque ninguno ha llegado tan lejos todavía y, claramente, no es un paso que ninguna de estas plataformas financiadas con publicidad e impulsadas por la participación elegiría como opción comercial predeterminada.

La Comisión rechazó hacer comentarios públicos sobre la carta de los eurodiputados (o el informe de la ICCL) cuando se lo preguntamos. En cambio, un portavoz señaló lo que describieron como obligaciones «claras» en los sistemas de recomendación de VLOP establecidos en el artículo 38 de la DSA, que requiere que las plataformas proporcionen al menos una opción para cada uno de estos sistemas que no se base en la elaboración de perfiles. Pero pudimos discutir el debate sobre la elaboración de perfiles con un funcionario de la UE que hablaba en segundo plano para poder hablar más libremente.

Estuvieron de acuerdo en que las plataformas podrían optar por desactivar los sistemas de recomendación basados ​​en perfiles de forma predeterminada como parte de su cumplimiento de mitigación de riesgos sistémicos de DSA, pero confirmaron que ninguno se ha desviado tanto hasta el momento.

Hasta ahora solo hemos visto casos en los que los feeds sin perfiles se han puesto a disposición de los usuarios como una opción, como en TikTok e Instagram, para cumplir con el requisito de la DSA antes mencionado (Artículo 38) de brindar a los usuarios la opción de evitar este tipo de personalización de contenidos. Sin embargo, esto requiere una opción activa de exclusión por parte de los usuarios, mientras que establecer de forma predeterminada los feeds sin perfiles sería, claramente, un tipo de regulación de contenido más estricta, ya que no requeriría que la acción del usuario surtiera efecto.

El funcionario de la UE con el que hablamos confirmó que la Comisión está investigando los sistemas de recomendación en su calidad de ejecutor de la DSA en los VLOP, incluso a través del procedimiento formal que se abrió en X a principios de esta semana. Los sistemas de recomendación también han sido el foco de algunas de las solicitudes formales de información que la Comisión ha enviado VLOP, incluida una a Instagram centrada en los riesgos de seguridad infantil, nos dijeron. Y acordaron que la UE podría obligar a las plataformas más grandes a desactivar los feeds personalizados de forma predeterminada en su papel de ejecutor, es decir, utilizando los poderes que tiene para hacer cumplir la ley.

Pero sugirieron que la Comisión sólo daría ese paso si determinaba que sería eficaz para mitigar riesgos específicos. El funcionario señaló que existen múltiples tipos de fuentes de contenido basadas en perfiles, incluso por plataforma, y ​​enfatizó la necesidad de que cada uno se considere en contexto. En términos más generales, pidieron “matices” en el debate sobre los riesgos de los sistemas de recomendación.

El enfoque de la Comisión en este caso será realizar evaluaciones de las preocupaciones caso por caso, sugirieron, defendiendo intervenciones políticas basadas en datos sobre los VLOP, en lugar de medidas generales. Después de todo, se trata de un conjunto de plataformas lo suficientemente diversas como para abarcar el intercambio de videos y los gigantes de las redes sociales, pero también los servicios minoristas y de información y (más recientemente) los sitios porno. El riesgo de que las decisiones de ejecución queden impugnadas por impugnaciones legales si faltan pruebas sólidas que las respalden es claramente una preocupación de la Comisión.

El funcionario también argumentó que es necesario recopilar más datos para comprender incluso las facetas básicas relevantes para el debate sobre los sistemas de recomendación, como por ejemplo si la personalización desactivada de forma predeterminada sería eficaz como medida de mitigación de riesgos. Los aspectos conductuales también necesitan más estudio, sugirieron.

Los niños especialmente pueden estar muy motivados para eludir tal limitación simplemente invirtiendo la configuración, argumentaron, como los niños han demostrado ser capaces de hacer cuando se trata de escapar de los controles parentales, alegando que no está claro que desactivar de forma predeterminada los sistemas de recomendación basados ​​en perfiles sería ser realmente eficaz como medida de protección infantil.

En general, el mensaje de nuestra fuente de la UE fue una súplica para que se dé tiempo al reglamento (y a la Comisión) para trabajar. La DSA no entró en vigor hasta finales de agosto en el primer conjunto de VLOP. Mientras que, apenas esta semana, hemos visto la primera investigación formal abierta (sobre X), que incluye un componente del sistema de recomendación (relacionado con preocupaciones sobre el sistema de moderación de contenido de colaboración colectiva de X, conocido como Notas de la comunidad).

También hemos visto una avalancha de solicitudes formales de información sobre plataformas en las últimas semanas, después de que presentaron su primer conjunto de informes de evaluación de riesgos, lo que indica que la Comisión no está satisfecha con el nivel de detalle proporcionado hasta ahora. Eso implica que pronto podrían tomarse medidas más firmes a medida que la UE se asiente en su nuevo papel de sheriff regional de Internet. Entonces, en resumen, 2024 se perfila como un año importante para que la respuesta política del bloque afecte a las grandes tecnologías. Y para evaluar si la aplicación de la ley por parte de la UE produce o no los resultados que anhelan los defensores de los derechos digitales.

«Estas son cuestiones sobre las que estamos cuestionando a las plataformas bajo nuestros poderes legales, pero el algoritmo de Instagram es diferente del de X, es diferente del de TikTok; tendremos que tener matices en esto», nos dijo el funcionario, sugiriendo que el enfoque de la Comisión dará un giro. crear un mosaico de intervenciones, que podrían incluir exigir diferentes valores predeterminados para los VLOP, dependiendo de los contextos y riesgos en las diferentes fuentes. «Preferiríamos adoptar un enfoque que realmente tenga en cuenta las particularidades de las plataformas en todo momento».

“Ahora estamos iniciando esta acción de cumplimiento. Y esta es en realidad una razón más para no diluir nuestra energía en marcos legales competitivos o algo así”, agregaron, haciendo un llamamiento a los defensores de los derechos digitales para que apoyen el programa de la Comisión. “Preferiría que trabajáramos en el marco de la DSA, que puede abordar las cuestiones que [the MEPs’ letter and ICCL report] está aumentando los sistemas de recomendación y amplificando el contenido ilegal”.