La agencia europea de aplicación de la ley, Europol, ha emitido un informe que destaca los peligros de los grandes modelos de lenguaje (LLMs) como el ChatGPT de OpenAI, los cuales podrían ser utilizados por los criminales para sus propios fines malintencionados.
El informe explica que la tecnología de generación de texto del ChatGPT podría ser utilizada para la ingeniería social y el fraude, ya que la habilidad del modelo para imitar el estilo de discurso de individuos específicos o grupos puede ser utilizada para engañar a potenciales víctimas. Asimismo, destaca la capacidad del modelo para generar grandes cantidades de texto de manera auténtica, lo que lo hace ideal para la propagación de desinformación y la creación de código malicioso.
Europol ha identificado tres áreas principales de preocupación: fraude y manipulación social, desinformación y ciberdelitos. El informe subraya la necesidad de que las agencias de aplicación de la ley estén al día con la evolución de la tecnología para anticipar y prevenir el abuso de los LLMs.
La creciente popularidad de la tecnología de LLMs como ChatGPT ha llevado a Europol a tomar medidas para proteger a las personas y organizaciones de los riesgos asociados con su uso indebido. Los expertos están trabajando para desarrollar estrategias y técnicas que puedan ayudar a prevenir la explotación malintencionada de estos modelos.
La agencia también ha destacado la necesidad de que las empresas y organizaciones implementen medidas de seguridad adicionales para protegerse contra el uso indebido de LLMs. Esto incluye el desarrollo de técnicas de detección y prevención, así como la formación del personal en la identificación de actividades sospechosas.
En general, Europol está comprometido a mantenerse al día con la tecnología en constante evolución y a trabajar en estrecha colaboración con la industria y otras agencias de aplicación de la ley para garantizar que las personas y organizaciones estén protegidas contra los riesgos asociados con el uso indebido de los LLMs.
Libro recomendado sobre inteligencia artificial:
