La carta, emitida por la organización sin ánimo de lucro Future of Life Institute y firmada por más de 1.000 personas, entre ellas Musk, el cofundador de Apple Steve Wozniak y el consejero delegado de Stability AI, Emad Mostaque, pedía una pausa en el desarrollo de la IA avanzada hasta que se desarrollen, apliquen y auditen por expertos independientes protocolos de seguridad compartidos para este tipo de diseños.
"Los sistemas de IA potentes sólo deberían desarrollarse cuando estemos seguros de que sus efectos serán positivos y sus riesgos serán manejables", decía la carta.
La carta también detallaba los riesgos potenciales para la sociedad y la civilización de los sistemas de IA competitivos con humanos en forma de perturbaciones económicas y políticas, e instaba a los desarrolladores a trabajar con los responsables políticos en materia de gobernanza y autoridades reguladoras.
La carta llega cuando la policía de la UE, Europol, se unió el lunes a un coro de preocupaciones éticas y legales sobre la IA avanzada como ChatGPT, advirtiendo sobre el potencial mal uso del sistema en intentos de phishing, desinformación y ciberdelincuencia.
Desde su lanzamiento el año pasado, el ChatGPT de OpenAI, respaldado por Microsoft, ha provocado que sus rivales lancen productos similares y que las empresas lo integren o integren tecnologías parecidas en sus aplicaciones y productos.
