Le autorità taiwanesi affermano che gli attori legati alla Cina stanno utilizzando sempre più spesso intelligenza artificiale e tecnologia deepfake in operazioni di influenza che prendono di mira Taiwan. L’avvertimento è stato emesso dall’Ufficio per la Sicurezza Nazionale, che ha affermato che le campagne sono progettate per manipolare l’opinione pubblica e minare la fiducia sociale.
Secondo l’ufficio, le operazioni si affidano a strumenti di IA per generare e distribuire grandi volumi di contenuti fuorvianti a grande velocità. Questo include articoli di giornale fabbricati, post automatici sui social media e immagini e video sintetici presentati come autentici. I funzionari hanno detto che il materiale viene spesso diffuso attraverso reti coordinate di account e siti web falsi per amplificarne la portata.
L’ufficio ha affermato che si ritiene che appaltatori cinesi, incluse aziende tecnologiche e di marketing, siano coinvolti nella produzione e diffusione dei contenuti. Queste entità utilizzano sistemi automatizzati per gestire gli account e pubblicare materiale su più piattaforme, permettendo alle campagne di espandere rapidamente con un coinvolgimento umano limitato. I funzionari taiwanesi hanno descritto l’approccio come parte di uno sforzo più ampio per esercitare pressione tramite manipolazione delle informazioni piuttosto che confronti.
I deepfake e altri media generati dall’IA sono una preoccupazione crescente, hanno detto le autorità, perché possono imitare in modo convincente persone ed eventi reali. L’agenzia ha riferito che immagini e video manipolati sono stati usati per travisare figure politiche e azioni governative, creando confusione ed erodendo la fiducia nelle fonti di informazione verificate.
Taiwan ha precedentemente collegato tattiche simili ai tentativi di influenzare il dibattito politico interno, anche durante i periodi elettorali. I funzionari hanno affermato che l’uso dell’IA generativa riduce i costi e lo sforzo necessari per produrre contenuti falsi e persuasivi, aumentando il volume e la sofisticazione di tali campagne.
In risposta, le agenzie taiwanesi stanno rafforzando le misure di rilevamento e risposta. Il governo ha dichiarato di investire in strumenti tecnici per identificare i media sintetici e i comportamenti inautentici coordinati, collaborando anche con gruppi della società civile per migliorare la consapevolezza pubblica sui rischi di disinformazione. Stanno inoltre venendo ampliate iniziative educative volte a migliorare l’alfabetizzazione mediatica.
L’ufficio ha affermato che contrastare le operazioni di influenza basate sull’IA richiederà una cooperazione continua tra enti governativi, piattaforme tecnologiche e ricercatori indipendenti. Le autorità cinesi non hanno commentato pubblicamente le specifiche accuse.