El Gobierno de Biden afirmó el jueves que las principales empresas de inteligencia artificial se encuentran entre las más de 200 entidades que se unen a un nuevo consorcio estadounidense para apoyar el desarrollo y el despliegue seguros de la IA generativa. La secretaria de Comercio, Gina Raimondo, anunció el Consorcio del Instituto de Seguridad de la IA de EE.UU. (AISIC), que incluye a OpenAI, Google de Alphabet, Anthropic y Microsoft junto con Meta Platforms, matriz de Facebook, Apple, Amazon.com, Nvidia Palantir, Intel, JPMorgan Chase y Bank of America.

"El gobierno de EE.UU. tiene un papel importante que desempeñar en el establecimiento de las normas y el desarrollo de las herramientas que necesitamos para mitigar los riesgos y aprovechar el inmenso potencial de la inteligencia artificial", dijo Raimondo en un comunicado.

El consorcio, en el que también participan BP, Cisco Systems, IBM, Hewlett Packard, Northop Grumman, Mastercard, Qualcomm, Visa y las principales instituciones académicas y agencias gubernamentales, estará bajo la tutela del Instituto de Seguridad de la IA de Estados Unidos (USAISI).

El grupo se encargará de trabajar en las acciones prioritarias esbozadas en la orden ejecutiva sobre IA del presidente Bidens de octubre, "incluido el desarrollo de directrices para el red-teaming, las evaluaciones de capacidad, la gestión de riesgos, la seguridad y la protección, y la marca de agua de los contenidos sintéticos".

Las principales empresas de IA se comprometieron el año pasado a poner marcas de agua a los contenidos generados por IA para que la tecnología sea más segura. El "red-teaming" se ha utilizado durante años en ciberseguridad para identificar nuevos riesgos, y el término hace referencia a las simulaciones de la Guerra Fría estadounidense en las que se denominaba al enemigo "equipo rojo".

La orden de Biden ordenaba a las agencias que establecieran normas para esas pruebas y que abordaran los riesgos químicos, biológicos, radiológicos, nucleares y de ciberseguridad relacionados.

En diciembre, el Departamento de Comercio dijo que estaba dando el primer paso hacia la redacción de normas y orientaciones clave para el despliegue y las pruebas seguras de la IA.

El consorcio representa la mayor colección de equipos de prueba y evaluación y se centrará en crear las bases para una "nueva ciencia de la medición en la seguridad de la IA", dijo Comercio.

La IA generativa -que puede crear textos, fotos y vídeos en respuesta a instrucciones abiertas- ha suscitado tanto entusiasmo como temores de que pueda dejar obsoletos algunos puestos de trabajo, trastocar las elecciones y superar potencialmente a los humanos con efectos catastróficos.

Mientras el gobierno de Biden busca salvaguardas, los esfuerzos en el Congreso para aprobar una legislación que aborde la IA se han estancado a pesar de los numerosos foros de alto nivel y propuestas legislativas. (Reportaje de David Shepardson; Edición de Jamie Freed)