La tecnología de IA generativa capaz de hilar prosa autoritaria a partir de indicaciones de texto ha cautivado al público desde que ChatGPT se lanzó hace seis meses y se convirtió en la aplicación de más rápido crecimiento de todos los tiempos. La IA también se ha convertido en foco de preocupación por su capacidad para crear imágenes falsas (deepfake) y otro tipo de desinformación.
"Las alarmas sobre la última forma de inteligencia artificial -la IA generativa- son ensordecedoras. Y son más ruidosas por parte de los desarrolladores que la han diseñado", dijo Guterres a los periodistas. "Debemos tomarnos en serio esas advertencias".
Ha anunciado planes para empezar a trabajar a finales de año en un órgano consultivo de alto nivel sobre IA que revise periódicamente los acuerdos de gobernanza de la IA y ofrezca recomendaciones sobre cómo pueden alinearse con los derechos humanos, el Estado de derecho y el bien común.
Pero el lunes añadió: "Yo sería favorable a la idea de que pudiéramos tener una agencia de inteligencia artificial... inspirada en lo que es hoy la agencia internacional de la energía atómica".
Guterres dijo que un modelo así podría ser "muy interesante", pero señaló que "sólo los Estados miembros pueden crearlo, no la Secretaría de las Naciones Unidas". El OIEA, con sede en Viena, fue creado en 1957 y promueve el uso seguro y pacífico de las tecnologías nucleares, al tiempo que vigila las posibles violaciones del Tratado de No Proliferación (TNP). Cuenta con 176 Estados miembros.
OpenAI, creador de ChatGPT, afirmó el mes pasado que un organismo como el OIEA podría imponer restricciones a la implantación, vigilar el cumplimiento de las normas de seguridad y hacer un seguimiento del uso de la potencia de cálculo.
El primer ministro británico, Rishi Sunak, también ha apoyado la idea y ha dicho que quiere que Gran Bretaña albergue la regulación mundial de la seguridad de la IA. Está previsto que Gran Bretaña acoja a finales de este año una cumbre sobre cómo una acción internacional coordinada puede hacer frente a los riesgos de la IA.
Guterres dijo que apoyaba el plan de celebrar una cumbre en Gran Bretaña, pero afirmó que debería ir precedida de un "trabajo serio". Dijo que planea nombrar en los próximos días un consejo asesor científico formado por expertos en IA y científicos jefes de las agencias de la ONU.
