OpenAI contempla reemplazar a los moderadores de Internet con GPT-4, pero ¿acaso no empeorará la situación?
El desarrollo de la inteligencia artificial continúa avanzando y OpenAI, liderada por Sam Altman, está trabajando en que su modelo de lenguaje GPT-4 pueda moderar contenidos en Internet. El objetivo es que la IA se encargue de aplicar correcciones consistentes mientras un grupo de humanos supervisa su desempeño. Sin embargo, antes de llegar a este punto, es necesario asegurar que GPT-4 esté preparada para ello. Recientemente, se desactivó una herramienta de comprobación de textos de GPT debido a su baja precisión del 26%. Aunque OpenAI está investigando para mejorar este sistema, aún no se ha encontrado una solución definitiva.
La moderación de Internet implica regular no solo publicaciones en fotos o redes sociales, sino también contenidos tóxicos o que violen los derechos humanos. Mientras plataformas como Facebook cuentan con sistemas de IA para ayudar en la moderación, OpenAI busca establecer un criterio común para el contenido en Internet. Sin embargo, el juicio de moderación de la IA está basado en la moral de quienes la entrenan, lo que plantea preguntas sobre qué reglas seguirá o si habrá un consejo con diferentes criterios para entrenar a la IA. Ya hay casos en los que GPT-4 se utiliza para moderar, como en un distrito escolar en Iowa que utiliza ChatGPT para identificar libros con contenido sexual y retirarlos de la biblioteca. Esto plantea la cuestión de quién determina la moral de ChatGPT y los posibles sesgos en su juicio.
OpenAI afirma que una vez se establezcan las directrices, GPT-4 puede acelerar el proceso de moderación de meses a horas. El proceso propuesto implica que los expertos creen un conjunto de datos de muestra y asignen etiquetas basadas en las directrices. GPT-4 luego asigna etiquetas a la muestra sin ver las respuestas de los expertos. Los expertos analizan las discrepancias y realizan ajustes para mejorar las directrices de GPT-4. OpenAI comparte que el equipo de entrenamiento puede repetir este proceso hasta estar satisfechos con las respuestas de la IA.
Además de agilizar el proceso de moderación, OpenAI busca que este sea más consistente y adaptable a nuevos puntos de vista. También se busca reducir la carga mental de los moderadores humanos, quienes a veces experimentan estrés postraumático. OpenAI afirma que este sistema de moderación también puede aplicarse a imágenes y videos, lo que podría contribuir a combatir la desinformación y contenido inapropiado, como la pornografía infantil.
Aunque se espera que esta IA ayude en el proceso de moderación, por el momento los humanos seguirán teniendo un papel fundamental en la definición de las directrices y en la última palabra en la moderación. Aunque no está claro si esto acabará eliminando puestos de trabajo, es evidente que la inteligencia artificial está evolucionando y cada vez desempeña un papel más importante en nuestra sociedad.
Fuente: https://www.xataka.com/ia/moderacion-asistida-ia-prioridad-openai-asi-quiere-usar-gpt-4-moderar-internet-aprendizaje-metrico
