Joe Biden finalmente deja caer la máscara, soltando un cruel despotrique contra una persona transexual. "Nunca serás una mujer de verdad", gruñe el presidente.

Bienvenidos a la carrera presidencial estadounidense de 2024, donde la realidad está en juego.

Los "deepfakes" de Clinton y Biden -vídeos realistas pero inventados, creados por algoritmos de inteligencia artificial entrenados a partir de abundante material en línea- son algunos de los miles que están apareciendo en las redes sociales, difuminando realidad y ficción en el polarizado mundo de la política estadounidense.

Aunque este tipo de medios sintéticos existen desde hace varios años, se han visto impulsados en el último año por una serie de nuevas herramientas de "inteligencia artificial generativa", como Midjourney, que hacen que sea barato y fácil crear falsificaciones convincentes, según las entrevistas de Reuters con cerca de dos docenas de especialistas en campos como la inteligencia artificial, la desinformación en línea y el activismo político.

"Va a ser muy difícil para los votantes distinguir lo real de lo falso. Y uno podría imaginarse cómo los partidarios de Trump o los de Biden podrían utilizar esta tecnología para hacer quedar mal al adversario", dijo Darrell West, investigador principal del Centro de Innovación Tecnológica de la Institución Brookings.

"Podría haber cosas que caigan justo antes de las elecciones y que nadie tenga la oportunidad de desmontar".

Las herramientas que pueden generar deepfakes están siendo lanzadas con pocos o imperfectos guardarraíles para prevenir la desinformación dañina, a medida que el sector tecnológico se involucra en una carrera armamentística de la IA, dijo Aza Raskin, cofundadora del Centro de Tecnología Humana, una organización sin ánimo de lucro que estudia el impacto de la tecnología en la sociedad.

El ex presidente Donald Trump, que competirá con DeSantis y otros por la nominación republicana para enfrentarse a Biden, compartió él mismo un vídeo trucado del presentador de la CNN Anderson Cooper a principios de este mes en su plataforma de redes sociales Truth Social.

"Ese era el presidente Donald J. Trump partiéndonos el culo aquí en el townhall presidencial en directo de la CNN", dice Cooper en la grabación, aunque las palabras no coinciden con el movimiento de sus labios.

La CNN dijo que el vídeo era un deepfake. Un representante de Trump no respondió a una solicitud de comentarios sobre el clip, que esta semana seguía en la página de Twitter de su hijo Donald Jr.

Aunque las principales plataformas de medios sociales como Facebook, Twitter y YouTube se han esforzado por prohibir y eliminar los deepfakes, su eficacia a la hora de vigilar este tipo de contenidos varía.

DEEPFAKE A PENCE, NO A TRUMP

Este año se han publicado en Internet tres veces más deepfakes de vídeo de todo tipo y ocho veces más deepfakes de voz que en el mismo periodo de 2022, según DeepMedia, una empresa que trabaja en herramientas para detectar medios sintéticos.

En total, en 2023 se compartirán unos 500.000 deepfakes de vídeo y voz en las redes sociales de todo el mundo, estima DeepMedia. Clonar una voz solía costar 10.000 dólares en costes de servidor y formación en IA hasta finales del año pasado, pero ahora las startups lo ofrecen por unos pocos dólares, afirma.

Nadie sabe a ciencia cierta adónde conduce el camino de la IA generativa ni cómo protegerse eficazmente de su poder para la desinformación masiva, según las personas entrevistadas.

El líder del sector, OpenAI, que ha cambiado el juego en los últimos meses con su lanzamiento de ChatGPT y el modelo actualizado GPT-4, está lidiando él mismo con la cuestión. Su consejero delegado, Sam Altman, declaró este mes ante el Congreso que la integridad de las elecciones era un "importante motivo de preocupación" e instó a una rápida regulación del sector.

A diferencia de algunas startups más pequeñas, OpenAI ha tomado medidas para restringir el uso de sus productos en política, según un análisis de Reuters de las condiciones de uso de media docena de empresas líderes que ofrecen servicios de IA generativa.

Sin embargo, los guardarraíles tienen lagunas.

Por ejemplo, OpenAI dice que prohíbe a su generador de imágenes DALL-E crear figuras públicas - y de hecho, cuando Reuters intentó crear imágenes de Trump y Biden, la solicitud fue bloqueada y apareció un mensaje diciendo que "puede no seguir nuestra política de contenidos".

Sin embargo, Reuters pudo crear imágenes de al menos otra docena de políticos estadounidenses, incluido el ex vicepresidente Mike Pence, que también está sopesando presentarse a la Casa Blanca en 2024.

OpenAI también restringe cualquier uso "a escala" de sus productos con fines políticos. Eso prohíbe el uso de su IA para enviar correos electrónicos masivos personalizados a los electores, por ejemplo.

La empresa, que cuenta con el respaldo de Microsoft, explicó sus políticas políticas a Reuters en una entrevista, pero no respondió a otras peticiones de comentarios sobre las lagunas en la aplicación de sus políticas, como el bloqueo de la creación de imágenes de políticos.

Varias startups más pequeñas no tienen restricciones explícitas sobre el contenido político.

Midjourney, que se lanzó el año pasado, es la empresa líder en imágenes generadas por IA, con 16 millones de usuarios en su servidor oficial Discord. La aplicación, que oscila entre lo gratuito y los 60 dólares al mes en función de factores como la cantidad de imágenes y la velocidad, es una de las favoritas de los diseñadores y artistas de IA por su capacidad para generar imágenes hiperrealistas de famosos y políticos, según cuatro investigadores y creadores de IA entrevistados.

Midjourney no respondió a una solicitud de comentarios para este artículo. Durante un chat en línea en Discord la semana pasada, el director ejecutivo David Holz dijo que la empresa probablemente haría cambios antes de las elecciones para combatir la desinformación.

Midjourney quiere cooperar en una solución industrial que permita la trazabilidad de las imágenes generadas por IA con un equivalente digital de la marca de agua y consideraría la posibilidad de bloquear las imágenes de candidatos políticos, añadió Holz.

ANUNCIO REPUBLICANO GENERADO POR AI

Incluso mientras la industria se debate sobre cómo evitar el uso indebido, algunos actores políticos están intentando aprovechar el poder de la IA generativa para dinamizar sus campañas.

Hasta ahora, el único anuncio político de alto perfil generado por IA en EE.UU. fue uno publicado por el Comité Nacional Republicano a finales de abril. El anuncio de 30 segundos, que el RNC reveló que había sido generado íntegramente por IA, utilizaba imágenes falsas para sugerir un escenario cataclísmico en caso de que Biden fuera reelegido, con China invadiendo Taiwán y San Francisco cerrada por la delincuencia.

El RNC no respondió a las peticiones de comentarios sobre el anuncio o su uso más amplio de la IA. El Comité Nacional Demócrata declinó hacer comentarios sobre su uso de la tecnología.

Reuters sondeó a todas las campañas presidenciales republicanas sobre su uso de la IA. La mayoría no contestó, aunque el equipo de Nikki Haley dijo que no utilizaba la tecnología y la campaña del candidato con más posibilidades, Perry Johnson, afirmó que utilizaba la IA para la "generación e iteración de copias", sin dar más detalles.

El potencial de la IA generativa para producir correos electrónicos, mensajes y anuncios de campaña es irresistible para algunos activistas que creen que la tecnología de bajo coste podría nivelar el terreno de juego en las elecciones.

Incluso en las profundidades de la zona rural de Hillsdale, Michigan, la inteligencia artificial está en marcha.

Jon Smith, presidente republicano del 5º distrito electoral de Michigan, está celebrando varias reuniones educativas para que sus aliados aprendan a utilizar la IA en las redes sociales y en la generación de anuncios.

"La IA nos ayuda a jugar contra los grandes", dijo. "Veo el mayor auge en las contiendas locales. Alguien de 65 años, agricultor y comisionado del condado, podría ser fácilmente primarizado por un gato más joven utilizando la tecnología".

Las consultorías políticas también están tratando de aprovechar la IA, enturbiando aún más la línea entre lo real y lo irreal.

Numinar Analytics, una empresa de datos políticos que se centra en clientes republicanos, ha empezado a experimentar con la generación de contenidos de IA para audio e imágenes, así como con la generación de voz para crear potencialmente mensajes personalizados con la voz de un candidato, dijo en una entrevista su fundador, Will Long.

Entretanto, el grupo demócrata de sondeos y estrategia Honan Strategy Group está intentando desarrollar un bot de encuestas con IA. Espera poner en marcha un bot femenino a tiempo para las elecciones municipales de 2023, dijo el director ejecutivo Bradley Honan, citando una investigación según la cual tanto hombres como mujeres son más propensos a hablar con una entrevistadora femenina.