La Inteligencia Artificial generadora de imágenes está provocando un incremento en las imágenes que representan abuso infantil. Esto complica la ya difícil tarea de identificar a las víctimas y combatir el abuso real.
El Impacto en las Investigaciones
La IA generadora de imágenes ha llevado a un alarmante incremento en imágenes realistas de abuso sexual infantil, según informa el Washington Post, citando una investigación de Thorn, un grupo sin fines de lucro de seguridad infantil. Los investigadores temen que el volumen de imágenes falsas esté obstaculizando la búsqueda de víctimas y la lucha contra el abuso infantil real. El sistema de seguimiento existente podría confundirse con las imágenes falsas, abrumando a los funcionarios. Tendrían que averiguar cuáles imágenes son reales y cuáles son falsas, además de su investigación normal.
Aumento en Imágenes Generadas por IA
Yiota Souras, directora de asuntos legales en el Centro Nacional para Niños Desaparecidos y Explotados, confirma un fuerte incremento en imágenes de abuso generadas por IA. La producción masiva de estas imágenes también podría usarse para incitar a los niños reales a comportarse como lo hacen en las imágenes, dice ella.
Carrera Armamentista de IA en Foros de Pedófilos
Las herramientas de IA generativa han desatado una verdadera carrera armamentista en los foros de pedófilos, según el informe. Se han descubierto miles de imágenes en foros de la Dark Web, donde los participantes también comparten instrucciones sobre cómo otros pedófilos pueden crear sus propias imágenes. Utilizan modelos de código abierto.
Necesidad de Legislación
Los defensores de los niños y los funcionarios de justicia de los EE. UU. dicen que las imágenes generadas por IA deberían ser castigadas por la ley. Sin embargo, aún no hay fallos que determinen el nivel de castigo. Dado que las imágenes no incluyen a niños reales, es cuestionable si violan las leyes federales de protección infantil.
Futuras Soluciones
En el futuro, los sistemas que puedan distinguir de manera confiable entre las imágenes de IA y las fotos reales podrían ayudar, permitiendo que se integren en los sistemas de reconocimiento en línea. Otro enfoque es etiquetar las imágenes de IA directamente en el software que las crea.
Advertencia del FBI
A principios de junio, el FBI advirtió sobre un enfoque que utiliza IA generativa para crear imágenes adicionales y explícitas a partir de imágenes existentes, como las de las redes sociales. La agencia de investigación de los EE. UU. ha visto un incremento en estas llamadas “víctimas de sextorsión” desde abril de 2023.
Libro recomendado sobre inteligencia artificial:
