¡Increíble suceso en la provincia de Gansu en China! Las autoridades han llevado a cabo la primera detención relacionada con inteligencia artificial en el país, como parte de los esfuerzos de Beijing por restringir el uso de tecnología deepfake. En esta ocasión, un hombre ha sido arrestado por presuntamente utilizar ChatGPT para generar una falsa historia sobre un accidente de tren, que se convirtió en un fenómeno viral en las redes sociales.
Según informó la oficina de policía local de la ciudad de Pingliang, el relato fabricado afirmaba que el accidente había cobrado la vida de nueve trabajadores de la construcción en una localidad del noroeste de Gansu. Sorprendentemente, esta historia logró captar la atención de más de 15,000 personas desde su publicación el 25 de abril.
En respuesta a este incidente, China ha establecido nuevas normas para combatir el uso de deepfakes, prohibiendo a proveedores de servicios y usuarios utilizar esta tecnología para generar, difundir o fabricar información falsa. Estas reglas entraron en vigor el 10 de enero, y su objetivo principal es limitar la alteración de contenido en línea mediante el uso de inteligencia artificial generativa.
De acuerdo con el comunicado policial, se descubrió que un total de 25 cuentas de Baijiahao, una plataforma de blogs perteneciente al gigante tecnológico chino Baidu, informaron sobre este supuesto «accidente», y todas ellas provenían de direcciones IP ubicadas en diferentes lugares. Gracias a una exhaustiva investigación que rastreó todas estas cuentas, las autoridades lograron identificar y detener al sospechoso, de apellido Hong, por la creación de información falsa. Además, se descubrió que su empresa estaba involucrada en esta trama.
El modus operandi de Hong consistía en editar noticias generadas por ChatGPT y luego subirlas a la plataforma de Baidu. Sin embargo, las investigaciones aún continúan en curso para recopilar más pruebas y detalles sobre este preocupante incidente.
Este acontecimiento resalta la importancia de mantener la integridad y veracidad de la información en un mundo cada vez más digitalizado. China está tomando medidas firmes para frenar el abuso de tecnologías como el deepfake y garantizar la autenticidad de los contenidos en línea.
Libro recomendado sobre inteligencia artificial:
