Los “expertos” no existían
Los videos mostraban a supuestos comentaristas hablando en alemán sobre elecciones, conflictos internacionales, geopolítica y la situación económica. En realidad, los presentadores eran avatares creados mediante inteligencia artificial.
Uno de los principales focos estuvo puesto en la política interna alemana: 795 de los videos analizados abordaban cuestiones relacionadas con el país y presentaban a Alemania como sumergida en una profunda crisis política y económica, con críticas al gobierno del canciller Friedrich Merz.
La investigación coincidió además con el calendario de elecciones regionales y locales alemanas. Sin embargo, CeMAS aclaró que no hay elementos suficientes para afirmar que se tratara específicamente de una campaña dirigida a esos comicios.
Señales de una posible red coordinada
Los investigadores encontraron varios elementos que apuntan a que los canales podrían estar relacionados entre sí.
“Tenemos múltiples señales de coordinación en esta actividad”, explicó Lea Frühwirth, investigadora sénior de CeMAS. Entre esas señales mencionó similitudes en los temas, la forma de presentar los contenidos, las fechas de creación de las cuentas y los períodos en los que concentraron su actividad.
También detectaron cuentas que cambiaban de avatar pero mantenían determinadas características, otras que conservaban el mismo personaje mientras modificaban su voz y avatares que aparecían en diferentes canales.
De todos modos, los investigadores no pudieron identificar quién estaba detrás de los canales ni confirmar que todas las cuentas formaran parte de una única organización.
El fenómeno también apareció en otros idiomas
El caso alemán no sería aislado. Una investigación paralela de la empresa Graphika detectó un patrón similar de presentadores artificiales utilizados para hablar de asuntos internacionales en inglés, francés, coreano, portugués y español.
Graphika tampoco pudo confirmar que todas esas cuentas pertenecieran a una misma red, aunque encontró indicios de que algunas podrían compartir herramientas para crear y amplificar los contenidos.
El problema, además, es que cada vez resulta más difícil detectar estos videos a simple vista.
Los investigadores encontraron errores de traducción, cambios de voz y miniaturas en las que aparecía un avatar diferente al del video. Pero esas señales pueden desaparecer a medida que mejora la tecnología.
“El contenido generado por IA mejora minuto a minuto”, advirtió Frühwirth. Y planteó que en apenas unos meses la calidad de estos videos podría ser todavía más difícil de distinguir de una producción realizada por personas reales.