Por Jaspreet Bindra
El año pasado completé una Maestría en IA y Ética de la Universidad de Cambridge. En mi último mandato, a finales de 2023, escribí un ensayo y lo envié de forma rutinaria a través de Turnitin, una herramienta de detección de plagio.
Si bien esta es una práctica que se sigue año tras año, este año en particular hubo cierta aprensión entre los profesores y algunos estudiantes. ChatGPT se lanzó hace unos meses y arrasó en el mundo. Entre las primeras personas en darse cuenta de su impacto se encuentran los colegios y universidades; Le preocupaba cómo los estudiantes podrían utilizar esta herramienta tan poderosa para escribir ensayos y trabajos finales, y sí, ensayos.
Algunas universidades respondieron apagando su WiFi, bloqueando ChatGPT o recurriendo a pruebas con lápiz y papel. La Universidad de Cambridge no lo hizo, pero le preocupaba si herramientas como Turnitin podrían detectar contenido generado por IA, un tipo diferente de plagio.
Si bien las universidades utilizan la IA para los estudiantes y se preocupan por la falta de contenido original, lo interesante es que la IA generativa también se puede utilizar para detectar plagio, uno de los mayores problemas que enfrentan las universidades en la actualidad.
Hay innumerables casos de profesores y decanos destacados que han sido contaminados por ello, siendo el más reciente el presidente de la Universidad de Harvard.
Entonces, es como un juego del gato y el ratón. Por un lado, los estudiantes están utilizando herramientas avanzadas de Gen AI para crear ensayos y tareas, lo que genera preocupaciones sobre la autenticidad. Por otro lado, las universidades están empleando tecnologías de IA similares para rastrear estas presentaciones generadas por IA.
Es similar a los deepfakes en cierto modo: la misma tecnología utilizada para crearlos también se puede utilizar para detectarlos. Estos sistemas de inteligencia artificial no solo buscan texto duplicado. Se está volviendo más inteligente y analiza estilos y patrones de escritura para descubrir material que no coincide con el trabajo anterior de un estudiante: una especie de Sherlock Holmes literario.
Pero a medida que la IA mejora en la detección de su nave, mejora en la evasión de la detección. Es una carrera armamentista sin fin, como la carrera armamentista entre virus y antivirus que vemos en el software. Las universidades progresistas no están utilizando pasivamente estas herramientas; Participan activamente con empresas de tecnología, socios y creadores de dichas herramientas para actualizar y perfeccionar constantemente sus procesos y estar un paso por delante del plagio.
Un ejemplo es el ya mencionado Turnitin. Advance Publications, la empresa propietaria de la herramienta, ha desarrollado una nueva versión de Turnitin que detecta texto generado por IA, en respuesta al uso cada vez mayor de herramientas de IA por parte de los estudiantes para completar tareas.
OpenAI también desarrolló una herramienta de este tipo, pero con un éxito modesto. Grandes universidades han adoptado esta nueva herramienta, una de ellas es la Universidad Purdue. Lo han integrado en su Sistema de Gestión de Aprendizaje (LMS) y escanea y evalúa los envíos en busca de contenido generado por IA.
Vale la pena señalar que Purdue y otras universidades advierten que no se debe confiar únicamente en estos resultados, ya que existen falsos positivos. Por ejemplo, la primera herramienta de este tipo diseñada por OpenAI puede detectar con confianza contenido generado por IA o plagio solo el 26% de las veces.
Otro ejemplo interesante es la Universidad de Adelaida, que realizó pruebas con la herramienta de detección de IA de Turnitin. Se dieron cuenta de que, si bien la herramienta reconocía con éxito el contenido generado por IA en situaciones sencillas, tenía problemas al cambiar el texto para que pareciera más humano, como reescribir al estilo de un estudiante adolescente.
La universidad ha probado otras herramientas de detección de IA en línea disponibles gratuitamente con distintos grados de éxito. Entre ellos, CopyLeaks surgió como una herramienta relativamente confiable, que muestra una alta probabilidad de detectar contenido generado por IA incluso después de modificación humana.
Aún es temprano y utilizar la tecnología por sí sola para detectar el plagio todavía es difícil. La intervención y supervisión humanas siguen siendo notablemente importantes; Estas herramientas, en el mejor de los casos, pueden ayudar a los evaluadores humanos. Sin embargo, estos ejemplos ilustran los arduos esfuerzos del mundo académico para mantener la integridad frente al rápido avance de las tecnologías de IA.
Además de la tecnología, también necesitamos regulación y políticas a nivel universitario, así como una mayor conciencia entre profesores y estudiantes. El futuro de la academia no consiste sólo en evitar el plagio; Se trata de fomentar un entorno donde coexistan el pensamiento original y la IA, cada uno potenciando el valor del otro.
(El autor es director general y fundador de The Tech Whisperer)
(Etiquetas por traducir)IA generativa
