La inteligencia artificial posiblemente asuma un nuevo rol: el de moderador en las plataformas. Con GPT-4 a la cabeza del proyecto, busca combatir el contenido dañino en línea y agilizar el cumplimiento de las políticas de la plataforma.
GPT-4, el poderoso modelo de lenguaje grande (LLM) basado en IA detrás de ChatGPT Plus, la versión paga de ChatGPT, podría estar en camino a asumiendo un nuevo papel crucial como moderador en línea, monitoreando foros y redes sociales en busca de contenido dañino.
Esta perspectiva surge de una publicación de blog reciente de OpenAI, la compañía detrás de este chatbot, que sugiere que este movimiento podría dar a todos una gran herramienta para mejorar la visión de plataformas como Facebook o incluso Twitch.
“La moderación de contenido juega un papel crucial en el mantenimiento de la salud de las plataformas digitales. Un sistema de moderación de contenido que utiliza GPT-4 da como resultado una iteración mucho más rápida de los cambios de política, lo que reduce el tiempo del ciclo de meses a horas”, explica OpenAI en su blog.
“Tradicionalmente, la carga de esta tarea ha recaído en los moderadores humanos que filtran grandes cantidades de contenido para filtrar material dañino y tóxico, con el apoyo de modelos de aprendizaje automático específicos verticales más pequeños. El proceso es intrínsecamente lento y puede ser mentalmente estresante. en moderadores humanos ,” agregan.
¿ChatGPT modera las redes sociales? ¿Adiós a un trabajo humano?
Centrarse en la IA como moderador tiene varias ventajas, según OpenAI. Por un lado, el uso de GPT-4 podría permitir una acción más rápida en los cambios de política, reduciendo el tiempo necesario de meses a horas.
Además, esta IA podría comprender y aplicar las reglas y los matices de la documentación de la política en ocasiones tan extensas, adaptándose instantáneamente a las actualizaciones y dando como resultado una moderación muy perfeccionista y, sobre todo, precisa.
Para ilustrar este concepto, la publicación del blog de OpenAI ofrece un ejemplo. Los equipos de moderación pueden asignar etiquetas a contenido específico para indicar si cumple con las reglas de la plataforma. GPT-4 podría aplicar etiquetas por sí mismo a partir del mismo conjunto de datos, sin conocer las respuestas anteriores. Los moderadores humanos podrían entonces comparar ambos conjuntos de etiquetas, aprovechando las discrepancias para mejorar la claridad de las reglas.
A pesar de los beneficios potenciales, algunas preguntas y problemas surgen en el camino. Es cierto que la moderación actual está en manos del ser humano, que está expuesto a contenidos masivos que debe moderar. La introducción de IA en esta función podría mejorar las condiciones de trabajo de los moderadores humanos y aliviar la carga mental que conlleva controlar todo ese contenido.
Sin embargo, existe el mismo gran problema de siempre con la IA: la pérdida de puestos de trabajo en el proceso. Si GPT-4 reemplaza a los moderadores humanos, sin duda generará preocupaciones sobre la pérdida del trabajo en lugar de la reasignación a otros roles.
Aunque OpenAI no aborda este problema de forma explícita en su publicación, lo que genera dudas sobre si las grandes empresas adoptarán la IA únicamente como una medida de ahorro de costes. Deja un mensaje relacionado al final.
“Al igual que con cualquier aplicación de IA, los resultados y la salida deberán monitorearse, validarse y refinarse cuidadosamente manteniendo a los humanos informados. Al reducir la participación humana en algunas partes del proceso de moderación que pueden manejar los modelos de lenguaje, los recursos humanos pueden centrarse más en abordar los casos extremos complejos más necesarios para el perfeccionamiento de las políticas”, concluyen.
A pesar de las incertidumbres, la idea de utilizar la IA para reducir el tortuoso trabajo de los moderadores y mejorar la seguridad de las plataformas digitales resulta bastante curiosa, al menos por ahora.
A medida que se integra gradualmente en algunas plataformas será interesante ver cómo funciona realmente la IA en este caso y si la ausencia de un ser humano resulta tan desastrosa en este caso, donde los matices y el contexto del idioma son realmente importantes para saber si una persona debe o no abandonar el chat de la plataforma.
