MICROSOFT CORPORATION 
A los investigadores del gobierno y del sector privado les preocupa que los adversarios de EE.UU. puedan utilizar los modelos, que minan enormes cantidades de texto e imágenes para resumir información y generar contenidos, para lanzar agresivos ciberataques o incluso crear potentes armas biológicas.
Éstas son algunas de las amenazas que plantea la IA:
DEEPFAKES Y DESINFORMACIÓN
Los deepfakes -vídeos realistas pero inventados, creados por algoritmos de IA entrenados a partir de abundante material en línea- están aflorando en las redes sociales, difuminando realidad y ficción en el polarizado mundo de la política estadounidense.
Aunque este tipo de medios sintéticos existen desde hace varios años, se han visto impulsados en el último año por una serie de nuevas herramientas de "IA generativa" como Midjourney, que hacen que sea barato y fácil crear deepfakes convincentes.
Las herramientas de creación de imágenes impulsadas por la inteligencia artificial de empresas como OpenAI y Microsoft, pueden utilizarse para producir fotos que podrían promover la desinformación relacionada con las elecciones o el voto, a pesar de que cada una de ellas tiene políticas contra la creación de contenidos engañosos, dijeron los investigadores en un informe en marzo.
Algunas campañas de desinformación simplemente aprovechan la capacidad de la IA para imitar artículos de noticias reales como medio para difundir información falsa. Aunque las principales plataformas de medios sociales como Facebook, Twitter y YouTube se han esforzado por prohibir y eliminar las deepfakes, su eficacia a la hora de vigilar estos contenidos varía. Por ejemplo, el año pasado, un sitio de noticias controlado por el gobierno chino que utilizaba una plataforma de IA generativa difundió una afirmación falsa difundida anteriormente según la cual Estados Unidos dirigía un laboratorio en Kazajstán para crear armas biológicas con el fin de utilizarlas contra China, según informó el Departamento de Seguridad Nacional (DHS) en su evaluación de la amenaza nacional para 2024.
El asesor de Seguridad Nacional, Jake Sullivan, en su intervención en un acto sobre IA celebrado el miércoles en Washington, dijo que el problema no tiene soluciones fáciles porque combina la capacidad de la IA con "la intención de actores estatales, no estatales, de utilizar la desinformación a escala, de perturbar las democracias, de hacer avanzar la propaganda, de moldear la percepción en el mundo."
"Ahora mismo el ataque está ganando a la defensa a lo grande", dijo.
BIOARMAS
La comunidad de inteligencia estadounidense, los grupos de reflexión y los académicos están cada vez más preocupados por los riesgos que plantean los malos actores extranjeros que obtienen acceso a las capacidades avanzadas de la IA. Los investigadores de Gryphon Scientific y Rand Corporation señalaron que los modelos avanzados de IA pueden proporcionar información que podría ayudar a crear armas biológicas.
Gryphon estudió cómo los grandes modelos de lenguaje (LLM) -programas informáticos que se basan en cantidades masivas de texto para generar respuestas a consultas- podrían ser utilizados por actores hostiles para causar daño en el ámbito de las ciencias de la vida y descubrió que "pueden proporcionar información que podría ayudar a un actor malicioso a crear un arma biológica al proporcionar información útil, precisa y detallada en cada paso de esta vía."
Descubrieron, por ejemplo, que un LLM podría proporcionar conocimientos de nivel posdoctoral para solucionar problemas cuando se trabaja con un virus con capacidad pandémica.
La investigación de Rand demostró que los LLM podrían ayudar en la planificación y ejecución de un ataque biológico. Descubrieron que un LLM podría, por ejemplo, sugerir métodos de administración en aerosol para la toxina botulínica.
CIBERARMAS
El DHS dijo que los actores cibernéticos probablemente utilizarían la IA para "desarrollar nuevas herramientas" que "permitan ciberataques a mayor escala, más rápidos, eficientes y evasivos" contra infraestructuras críticas, incluidos oleoductos y ferrocarriles, en su evaluación de la amenaza nacional de 2024.
China y otros adversarios están desarrollando tecnologías de IA que podrían socavar las ciberdefensas estadounidenses, dijo el DHS, incluyendo programas de IA generativa que apoyan los ataques de malware.
Microsoft afirmó en un informe de febrero que había rastreado a grupos de piratas informáticos afiliados a los gobiernos chino y norcoreano, así como a la inteligencia militar rusa y a la Guardia Revolucionaria iraní, mientras intentaban perfeccionar sus campañas de piratería utilizando grandes modelos lingüísticos.
La empresa anunció el hallazgo al tiempo que desplegaba una prohibición general de que los grupos de piratas informáticos respaldados por Estados utilizaran sus productos de IA.
NUEVOS ESFUERZOS PARA HACER FRENTE A LAS AMENAZAS
Un grupo bipartidista de legisladores presentó a última hora del miércoles un proyecto de ley que facilitaría a la administración Biden la imposición de controles a la exportación de modelos de IA, en un intento de salvaguardar la preciada tecnología estadounidense frente a los malos actores extranjeros.
El proyecto de ley, patrocinado por los republicanos de la Cámara de Representantes Michael McCaul y John Molenaar y los demócratas Raja Krishnamoorthi y Susan Wild, también otorgaría al Departamento de Comercio autoridad expresa para prohibir a los estadounidenses trabajar con extranjeros en el desarrollo de sistemas de IA que planteen riesgos para la seguridad nacional de Estados Unidos.
Tony Samp, asesor de política de IA en DLA Piper en Washington, dijo que los responsables políticos de Washington están tratando de "fomentar la innovación y evitar una regulación de mano dura que ahogue la innovación", ya que tratan de hacer frente a los muchos riesgos que plantea la tecnología.
Pero advirtió de que "reprimir el desarrollo de la IA mediante la regulación podría inhibir avances potenciales en áreas como el descubrimiento de fármacos, las infraestructuras, la seguridad nacional y otras, y ceder terreno a los competidores en el extranjero". (Reportaje de Alexandra Alper; Edición de Anna Driver y Stephen Coates)
