"Mitigar el riesgo de extinción de la IA debería ser una prioridad mundial junto a otros riesgos a escala social como las pandemias y la guerra nuclear", escribieron más de 350 firmantes en una carta publicada por el Centro para la Seguridad de la IA (CAIS), una organización sin ánimo de lucro.

Además de Altman, entre ellos se encontraban los directores generales de las empresas de IA DeepMind y Anthropic, y ejecutivos de Microsoft y Google.

También se encontraban entre ellos Geoffrey Hinton y Yoshua Bengio -dos de los tres llamados "padrinos de la IA" que recibieron el Premio Turing 2018 por su trabajo en el aprendizaje profundo- y profesores de instituciones que van desde Harvard hasta la Universidad Tsinghua de China.

Un comunicado del CAIS señaló a Meta, donde trabaja el tercer padrino de la IA, Yann LeCun, por no firmar la carta.

"Pedimos a muchos empleados de Meta que firmaran", dijo el director del CAIS, Dan Hendrycks. Meta no respondió inmediatamente a las peticiones de comentarios.

La carta coincidió con la reunión del Consejo de Comercio y Tecnología EE.UU.-UE en Suecia, donde se espera que los políticos hablen sobre la regulación de la IA.

Elon Musk y un grupo de expertos en IA y ejecutivos de la industria fueron los primeros en citar los riesgos potenciales para la sociedad en abril.

"Hemos cursado una invitación (a Musk) y esperamos que la firme esta semana", dijo Hendrycks.

Los recientes avances en IA han creado herramientas que, según los partidarios, pueden utilizarse en aplicaciones que van desde el diagnóstico médico a la redacción de informes jurídicos, pero esto ha desatado temores de que la tecnología pueda dar lugar a violaciones de la privacidad, impulsar campañas de desinformación y provocar problemas con las "máquinas inteligentes" que piensan por sí mismas.

La advertencia llega dos meses después de que la organización sin ánimo de lucro Future of Life Institute (FLI) emitiera una carta abierta similar, firmada por Musk y cientos de personas más, exigiendo una pausa urgente en la investigación avanzada de la IA, citando riesgos para la humanidad.

"Nuestra carta generalizó la pausa, esto generaliza la exctinción", dijo el presidente del FLI, Max Tegmark, que también firmó la carta más reciente. "Ahora puede empezar por fin una conversación abierta y constructiva".

Hinton, pionero de la IA, declaró anteriormente a Reuters que la IA podría suponer una amenaza "más urgente" para la humanidad que el cambio climático.

La semana pasada, el director ejecutivo de OpenAI, Sam Altman, se refirió a la IA de la UE -los primeros esfuerzos por crear una normativa para la IA- como un exceso de regulación y amenazó con abandonar Europa. A los pocos días dio marcha atrás en su postura tras las críticas de los políticos.

Altman se ha convertido en el rostro de la IA después de que su chatbot ChatGPT asaltara el mundo. La presidenta de la Comisión Europea, Ursula von der Leyen, se reunirá con Altman el jueves, y el jefe de industria de la UE, Thierry Breton, se reunirá con él en San Francisco el mes que viene.