Les autorités taïwanaises affirment que les acteurs liés à la Chine utilisent de plus en plus l’intelligence artificielle et la technologie deepfake dans des opérations d’influence ciblant Taïwan. L’avertissement a été émis par le Bureau de la sécurité nationale, qui a déclaré que ces campagnes visaient à manipuler l’opinion publique et à miner la confiance sociale.
Selon le bureau, les opérations reposent sur des outils d’IA pour générer et distribuer rapidement de grands volumes de contenus trompeurs. Cela inclut des articles de presse fabriqués, des publications automatisées sur les réseaux sociaux, ainsi que des images et vidéos synthétiques présentées comme authentiques. Les responsables ont indiqué que ce contenu est souvent diffusé via des réseaux coordonnés de faux comptes et sites web afin d’en accroître la portée.
Le bureau a indiqué que des entrepreneurs chinois, y compris des entreprises technologiques et de marketing, seraient impliqués dans la production et la diffusion de ce contenu. Ces entités utiliseraient prétendument des systèmes automatisés pour gérer les comptes et publier du contenu sur plusieurs plateformes, permettant ainsi à des campagnes de s’étendre rapidement avec une implication humaine limitée. Les responsables taïwanais ont décrit cette approche comme faisant partie d’un effort plus large visant à exercer une pression par la manipulation de l’information plutôt que par la confrontation.
Les deepfakes et autres médias générés par l’IA sont une préoccupation croissante, ont indiqué les autorités, car ils peuvent imiter de manière convaincante des personnes et des événements réels. Le bureau a rapporté que des images et vidéos manipulées ont été utilisées pour déformer des personnalités politiques et des actions gouvernementales, créant de la confusion et érodant la confiance dans les sources d’information vérifiées.
Taïwan a déjà lié des tactiques similaires à des tentatives d’influencer le débat politique intérieur, y compris pendant les périodes électorales. Les responsables ont indiqué que l’utilisation de l’IA générative réduit le coût et l’effort nécessaires pour produire du contenu faux persuasif, augmentant ainsi le volume et la sophistication de telles campagnes.
En réponse, les agences taïwanaises renforcent les mesures de détection et de réponse. Le gouvernement a déclaré investir dans des outils techniques pour identifier les médias synthétiques et les comportements coordonnés et inauthentiques, tout en travaillant avec des groupes de la société civile pour améliorer la sensibilisation du public aux risques de désinformation. Les initiatives éducatives visant à améliorer la littératie médiatique sont également en cours d’expansion.
Le bureau a indiqué que la lutte contre les opérations d’influence pilotées par l’IA nécessitera une coopération continue entre les organismes gouvernementaux, les plateformes technologiques et les chercheurs indépendants. Les autorités chinoises n’ont pas commenté publiquement ces allégations spécifiques.