El profesor de informática de la Universidad de California en Berkeley, Stuart Russell, advirtió sobre los riesgos de la inteligencia artificial y la necesidad de regularla adecuadamente para garantizar que beneficie a la humanidad. Russell destacó que la IA tiene el potencial de mejorar la calidad de vida de las personas en todo el mundo, pero también puede ser perjudicial e incluso destruir la civilización.
Russell hizo estas declaraciones en un evento patrocinado por el CITRIS Research Exchange y Berkeley AI Research Lab. Durante su discurso, Russell afirmó que la inteligencia implica tener el poder de moldear el mundo según nuestros intereses, pero si creamos sistemas más inteligentes que los humanos, individualmente o en conjunto, estaremos creando entidades más poderosas que nosotros. Russell se preguntó cómo podemos mantener el control sobre estas entidades más poderosas que nosotros y asegurarnos de que siempre actúen en nuestro interés.
Según Russell, las herramientas de inteligencia artificial actuales, como los chatbots, operan en una “caja negra”, lo que significa que no está claro si estos sistemas tienen sus propios objetivos, si esos objetivos están alineados con los nuestros o si pueden perseguir sus objetivos de manera autónoma. Russell argumentó que la IA debería diseñarse para promover los intereses humanos, reconocer que no sabemos cuáles son esos intereses y buscar evidencia para identificarlos y actuar sobre ellos.
Russell también sostuvo que se necesitan nuevas formas de pensar sobre la IA, incluyendo la planificación, el aprendizaje por refuerzo y el aprendizaje supervisado, para que los sistemas de IA sean beneficiosos para la humanidad. Además, estos sistemas deberían desarrollarse de manera rigurosa y bien fundamentada para comprender todos los componentes y cómo trabajan juntos, lo que permitiría predecir su comportamiento.
En última instancia, Russell argumentó que se necesitan reglas para prohibir la liberación de IA insegura, y que la IA debería estar sujeta a una regulación rigurosa similar a la energía nuclear o la aviación. Russell destacó que ya existe un marco legal internacional que establece lo que es la IA responsable y delineando recomendaciones relacionadas, y que las empresas deberían cumplir con estos principios y los países deberían convertirlos en reglas.
En conclusión, según Russell, la IA tiene el poder de cambiar el mundo para mejor o para peor, y es fundamental regularla adecuadamente para asegurar que promueva el interés humano.
Libro recomendado sobre inteligencia artificial:
