El uso de aplicaciones de inteligencia artificial como ChatGPT por parte de los estudiantes en su trabajo escolar ha llevado a la adopción masiva del detector de IA de Turnitin por parte de más de 2 millones de profesores en EEUU. Mas tarde, se descubrió que este software era ineficaz en su función, según el Washington Post, lo que podría generar cargos injustos contra los estudiantes que no usaron tales herramientas de inteligencia artificial .
La capacidad de los chat bots de IA para generar texto ha crecido rápidamente, pero las herramientas que pueden diferenciar el texto generado por humanos y generado por IA están muy atrasadas aún. Esto pone a los profesores y estudiantes en una posición incómoda.
En una prueba realizada por Geoffrey Fowler del Washington Post, el detector de IA de Turnitin tuvo un desempeño deficiente. De 16 muestras probadas, el software estaba mal en más de la mitad de los casos. A pesar de esto, Turnitin afirma que su detector tiene una precisión del 98 %.
La empresa aclara en su sitio web que los resultados de su herramienta no deben usarse para acusar a los estudiantes de hacer trampa. Sin embargo, parece poco probable que esto detenga a todos los maestros. En el subreddit ChatGPT se pueden encontrar varios ejemplos de estudiantes acusados de usar IA en su trabajo escolar.
Turnitin y más empresas del sector tienen el desafío de comunicar las capacidades de sus herramientas de detección de IA y cómo deben usarse. La directora de productos de Turnitin, Annie Chechitelli, dice que el objetivo es brindar información «en la dirección correcta» para que los maestros puedan iniciar una conversación con sus alumnos.
Dado el avance de los modelos de IA como GPT-4 y competidores emergentes como Google Bard, es probable que su capacidad para evadir la detección mejore con el tiempo. Esto significa que se tendrán que encontrar soluciones alternativas para que los maestros recuperen la confianza en sus alumnos a medida que la brecha entre los chatbots y los humanos continúa desdibujándose.
Jim Fan, científico de IA de Nvidia y exempleado de OpenAI y Google, señala que los detectores de IA no serán fiables a largo plazo, ya que los modelos de IA seguirán mejorando y escribiendo más. más como humanos.
Libro recomendado sobre inteligencia artificial:
