Expertos reclaman frenar la «carrera sin control» en el área de la inteligencia artificial
ACTUALIDAD
Más de un millar de firmantes proponen a través de una carta una pausa de seis meses en los los laboratorios
30 mar 2023 . Actualizado a las 18:20 h.Más de un millar de investigadores en inteligencia artificial han firmado una carta abierta en la que piden a los laboratorios de todo el mundo que detengan el desarrollo de más sistemas. Publicada por el Future of Life Institute, una organización sin ánimo de lucro, resaltan los «riesgos para la sociedad y para la humanidad» que puede suponer.
Más concretamente, piden «se que pause de inmediato y durante al menos seis meses el entrenamiento de los sistemas de IA más potentes de GPT4». Se trata de la última versión del modelo de lenguaje que utiliza ChatGPT.Según sus creadores, mucho más precisa y con habilidades para resolver problemas más complejos. En la carta, los expertos lamentan que dichos sistemas se estén volviendo competitivos para los humanos en tareas generales. También de que sus funciones puedan resultar un trampolín para la difusión de desinformación o para la destrucción de ciertos empleos.
«Los sistemas potentes de inteligencia artificial deben desarrollarse solo una vez que estemos seguros de que sus efectos van a ser positivos y sus riegos manejables», vela el comunicado. Llaman a los laboratorios a utilizar la pausa que proponen para desarrollar e implementar una serie de protocolos de seguridad que garanticen la precisión y la transparencia de los sistemas.
Inciden en que, con esto, no pretenden una pausa definitiva en el desarrollo de la inteligencia artificial, sino «un paso atrás en la carrera sin control». «Si tal pausa no se promulga rápidamente, los gobiernos deberían de intervenir», finaliza la nota.
Musk entre los firmantes
Curiosamente, Elon Musk es una de las personalidades que han firmado el comunicado. El dueño de Twitter es también uno de los fundadores de OpenAI, empresa que ha desarrollado GPT4. Entre los firmantes están el historiador Yuval Noah Harari, autor de libros como Sapiens: De animales a dioses o 21 lecciones para el siglo XXI; Steve Wozniak, cofundador de Apple; el cofundador de Skype, Jaan Tallinn; el político Andrew Yang e investigadores Stuart Russell, Yoshua Bengio, Gary Marcus y Emad Mostaque. Entre los firmantes españoles están Carles Sierra, director del Instituto de la IA del CSIC; Ramón López De Mantaras o Francesc Subirada.
Con Google y Microsoft avanzando a pasos agigantados, la carrera por la inteligencia artificial nunca fue tan competitiva. No obstante, como señalan en la carta, hasta OpenAI ha expresado la necesidad de una «revisión independiente» de los futuros sistemas de IA para garantizar que cumplan con los estándares de seguridad.
