La fama de ChatGPT es indiscutible y su gran viralización ha abierto las puertas a estudiantes que utilizan esta herramienta en base a inteligencia artificial para más que entretenimiento. Y es que, muchos de ellos lo están utilizando para crear obras enteras y plagiar contenidos.
Como dijimos antes, La lucha contra el plagio de la IA será uno de los grandes temas de 2023, y quién sabe qué pasará cuando se lance GPT-4. La buena noticia es que se están haciendo grandes esfuerzos para detectar los resultados que generan esta y otras herramientas.
Ya comentamos algunos como “GPT-2 Exit Detector”, “GPTZero” o la nueva marca de agua que IA abiertala empresa detrás ChatGPT desea emitir para que cualquier texto que genere GPT se marque con una marca de agua oculta que solo OpenAI conocerá.
Pues bien, hoy presentamos DetectGPT, una novedad desarrollada por la Universidad de Stanford, que pretende ser una de las primeras herramientas para combatir texto generadas por máquinas en la universidad.
Así es como funciona DetectGPT. estudiantes temblorosos
Un equipo de estudiantes de doctorado e informáticos han puesto en marcha un nueva herramienta llamada DetectGPT que trata de identificar si un determinado texto ha sido creado por una inteligencia artificial y parece funcionar bastante bien.
Usando un método estadístico conocido como “curvatura de probabilidad”, los investigadores han encontrado un método para detectar texto generado por IA. Aparentemente, esto no requiere la marca de agua del texto generado o incluso una comparación del texto real con el texto generado, sino que utiliza estadísticas para determinar la probabilidad de generar el texto.
En cuanto a los resultados, ojo, porque pudo encontrar el texto generado por IA 14 de 15 veces. Incluso detectó texto generado por IA cuando hasta el 25% del texto fue parafraseado por humanos.
Sobre la base de esta idea, el equipo ha desarrollado un nuevo barómetro para determinar si un texto es generado por una máquina, sin necesidad de entrenar una IA o recopilar grandes conjuntos de datos para comparar el texto.
Y es que, el texto creado por una IA tiene una “curvatura negativa” de la función log-verosimilitud, mientras que el texto generado por humanos suele tener una “curvatura positiva” en el mismo parámetro. El siguiente artículo detalla todos los criterios para determinar la efectividad del método de detección.
Por supuesto, la aparición de métodos para saber si el contenido escrito es generado por IA, o en este caso por ChatGPT, es un paso importante para prevenir un mundo de verdaderamente sin educación que, en lugar de utilizar este tipo de herramientas como apoyo, las utilicen para realizar el menor esfuerzo.
