Poco después de lanzar un canal de YouTube en noviembre del año pasado, Loiek, una ucraniana de 21 años, descubrió que su imagen había sido tomada e hilada mediante inteligencia artificial para crear alter egos en plataformas de medios sociales chinas.
Sus dobles digitales, como "Natasha", decían ser mujeres rusas que hablaban chino con fluidez y querían agradecer a China su apoyo a Rusia y ganar algo de dinero vendiendo productos como caramelos rusos.
Es más, las cuentas falsas tenían cientos de miles de seguidores en China, muchos más que la propia Loiek.
"Esto es literalmente como mi cara hablando mandarín y, de fondo, estoy viendo el Kremlin y Moscú, y estoy hablando de lo grandes que son Rusia y China", dijo Loiek a Reuters. "Fue realmente espeluznante, porque son cosas que nunca diría en la vida".
El caso de Loiek es representativo de un número cada vez mayor de lo que a primera vista parecen ser mujeres rusas en las redes sociales chinas que muestran su amor por China en un chino fluido y dicen que buscan apoyar a Rusia en la guerra vendiendo importaciones de su patria.
Sin embargo, ninguna de ellas existe. Son generadas por IA mediante la apropiación indebida de clips de mujeres reales encontrados en Internet, a menudo sin su conocimiento, y los vídeos que crean los avatares falsos se utilizan para lanzar productos a hombres chinos solteros, según los expertos.
Las cuentas creadas con la imagen de Loiek tienen cientos de miles de seguidores y han vendido decenas de miles de dólares en productos, incluidos caramelos. Algunas de las publicaciones contienen un descargo de responsabilidad en el que se dice que pueden haber sido creadas utilizando IA.
Avatares como el de Loiek aprovechan la asociación "sin límites" entre Rusia y China, declarada entre ambos países en 2022, cuando el presidente ruso Vladimir Putin visitó Pekín pocos días antes de que Rusia invadiera Ucrania.
Jim Chai, director ejecutivo de XMOV, una empresa que desarrolla tecnología avanzada de IA y que no está implicada en la situación de Loiek, afirma que la tecnología para crear este tipo de imágenes es "muy común porque mucha gente la utiliza en China".
"Por ejemplo, para producir mi propio humano digital en 2D, sólo tengo que grabar un vídeo de 30 minutos de mí mismo, y después de terminarlo, lo retoco. Por supuesto, parece muy real, y por supuesto, si cambias el idioma, lo único que tienes que ajustar es la sincronización labial", dijo Chai.
La inteligencia artificial es un tema muy debatido y la historia de Loiek arroja luz sobre los riesgos de sus aplicaciones potencialmente ilegales o poco éticas a medida que las potentes herramientas de creación y difusión de contenidos se convierten en algo habitual en todo el mundo.
La preocupación por la contribución de la IA a la desinformación, las noticias falsas y el material protegido por derechos de autor se ha intensificado en los últimos meses en medio de la creciente popularidad de sistemas de IA generativa como Chat GPT.
En enero, China publicó un borrador de directrices para estandarizar la industria de la IA, proponiendo formar más de 50 normas nacionales y de toda la industria para 2026.
La Ley de IA de la Unión Europea, que impone estrictas obligaciones de transparencia a los sistemas de IA de alto riesgo, entró en vigor este mes, estableciendo un posible punto de referencia mundial.
Aun así, Xin Dai, profesor asociado de la Facultad de Derecho de la Universidad de Pekín, afirmó que la regulación está luchando por ponerse al día con el ritmo de desarrollo de la IA.
"Sólo podemos predecir que con herramientas cada vez más potentes para crear información, crear contenidos y difundir contenidos que estarán disponibles básicamente cada próximo minuto", dijo Dai.
"Creo que lo crítico aquí es que el volumen es simplemente demasiado grande... no sólo en China, sino también en Internet en general en todas partes", añadió. (Edición de Antoni Slodkowski y Kevin Krolicki y Miral Fahmy)
