Los investigadores de la empresa con sede en Virginia encontraron "numerosos casos" desde 2019 en los que se habían utilizado contenidos generados por IA, como fotos de perfil falsificadas, en campañas de influencia en línea con motivación política.
Entre ellas se incluían campañas de grupos alineados con los gobiernos de Rusia, China, Irán, Etiopía, Indonesia, Cuba, Argentina, México, Ecuador y El Salvador, según el informe.
Se produce en medio de un reciente auge de los modelos generativos de IA, como ChatGPT, que facilitan enormemente la creación de vídeos, imágenes, textos y códigos informáticos falsos convincentes. Los responsables de seguridad han advertido del uso de este tipo de modelos por parte de los ciberdelincuentes.
La IA generativa permitiría a grupos con recursos limitados producir contenidos de mayor calidad a escala, según los investigadores de Mandiant.
Una campaña informativa china vinculada al Estado y denominada Dragonbridge, por ejemplo, se había expandido "exponencialmente" a través de 30 plataformas sociales y 10 idiomas diferentes desde que comenzó apuntando a manifestantes prodemocráticos en Hong Kong en 2019, dijo Sandra Joyce, vicepresidenta de Mandiant Intelligence.
Sin embargo, el impacto de estas campañas ha sido limitado. "Desde el punto de vista de la eficacia, no hay muchas victorias ahí", dijo. "Realmente aún no han cambiado el curso del panorama de las amenazas".
China ha negado en el pasado las acusaciones de Estados Unidos de participar en tales campañas de influencia.
Mandiant, que ayuda a las organizaciones públicas y privadas a responder a las brechas digitales, dijo que todavía no había visto que la IA desempeñara un papel clave en las amenazas procedentes de Rusia, Irán, China o Corea del Norte.
"Hasta ahora, no hemos visto ni un solo incidente de respuesta en el que la IA haya desempeñado un papel", dijo Joyce. "Realmente no se les ha dado ningún tipo de uso práctico que supere lo que se podría hacer con las herramientas normales que hemos visto".
Pero añadió: "Podemos estar muy seguros de que éste va a ser un problema que se agravará con el tiempo". (Reportaje de Zeba Siddiqui en San Francisco; Edición de Alexandra Hudson)
