Elon Musk y otros expertos en inteligencia artificial y ejecutivos de la industria han unido sus voces para solicitar una pausa de seis meses en el desarrollo de sistemas de IA más potentes que el último lanzamiento de OpenAI, el GPT-4. En una carta abierta emitida por el Future of Life Institute y firmada por más de 1,000 personas, incluyendo a Musk, se mencionan los riesgos potenciales que estos sistemas podrían acarrear para la sociedad y la humanidad.
La carta pide una pausa en el desarrollo de la IA hasta que se puedan desarrollar y auditar protocolos de seguridad compartidos por expertos independientes. “Los sistemas de inteligencia artificial poderosos deben desarrollarse solo una vez que estemos seguros de que sus efectos serán positivos y sus riesgos serán manejables”, afirma la carta.
Los firmantes señalaron los riesgos potenciales para la sociedad y la civilización de los sistemas de IA competitivos entre humanos, como interrupciones económicas y políticas. Además, hicieron un llamado a los desarrolladores para que trabajen en conjunto con legisladores y autoridades reguladoras en la gobernanza de estos sistemas.
El Instituto Future of Life está financiado principalmente por la Fundación Musk, el grupo de altruismo efectivo Founders Pledge con sede en Londres y la Fundación Comunitaria de Silicon Valley.
Estas preocupaciones surgen en un contexto donde la fuerza policial de la UE, Europol, ha expresado preocupaciones éticas y legales sobre el uso indebido de la IA avanzada, advirtiendo sobre posibles intentos de phishing, desinformación y ciberdelincuencia.
Por otro lado, el gobierno del Reino Unido ha dado a conocer propuestas para un marco regulatorio “adaptativo” en torno a la IA, el cual dividiría la responsabilidad de gobernar la inteligencia artificial entre sus reguladores de derechos humanos, salud y seguridad y competencia.
Musk, cuya compañía Tesla está utilizando IA para un sistema de piloto automático, ha expresado sus preocupaciones sobre la IA en varias ocasiones. Desde su lanzamiento el año pasado, ChatGPT de OpenAI, respaldado por Microsoft, ha llevado a los competidores a acelerar el desarrollo de modelos de lenguaje similares y a las empresas a integrar modelos de IA generativa en sus productos.
Aqui os dejamos el link de la carta firmada por estos expertos.
Libro recomendado sobre inteligencia artificial:
