De Taiwanese autoriteiten zeggen dat actoren die aan China gelinkt zijn steeds vaker kunstmatige intelligentie en deepfake-technologie gebruiken bij beïnvloedingsoperaties gericht op Taiwan. De waarschuwing werd uitgegeven door het National Security Bureau, dat zei dat de campagnes bedoeld zijn om de publieke opinie te manipuleren en het sociale vertrouwen te ondermijnen.
Volgens het bureau zijn de operaties afhankelijk van AI-tools om grote hoeveelheden misleidende inhoud snel te genereren en te verspreiden. Dit omvat verzonnen nieuwsartikelen, geautomatiseerde berichten op sociale media en synthetische afbeeldingen en video’s die als authentiek worden gepresenteerd. Functionarissen zeiden dat het materiaal vaak wordt verspreid via gecoördineerde netwerken van nepaccounts en websites om het bereik te vergroten.
Het bureau zei dat Chinese aannemers, waaronder technologie- en marketingbedrijven, naar verluidt betrokken zijn bij het produceren en verspreiden van de inhoud. Deze entiteiten gebruiken naar verluidt geautomatiseerde systemen om accounts te beheren en materiaal op meerdere platforms te publiceren, waardoor campagnes snel kunnen opschalen met beperkte menselijke betrokkenheid. Taiwanese functionarissen beschreven de aanpak als onderdeel van een bredere poging om druk uit te oefenen via informatiemanipulatie in plaats van confrontatie.
Deepfakes en andere door AI gegenereerde media zijn een groeiende zorg, aldus de autoriteiten, omdat ze echte mensen en gebeurtenissen overtuigend kunnen imiteren. Het bureau meldde dat gemanipuleerde beelden en video’s zijn gebruikt om politieke figuren en overheidsacties verkeerd voor te stellen, wat verwarring veroorzaakt en het vertrouwen in geverifieerde informatiebronnen ondermijnt.
Taiwan heeft eerder vergelijkbare tactieken gekoppeld aan pogingen om invloed uit te oefenen op het binnenlandse politieke debat, ook tijdens verkiezingsperiodes. Functionarissen zeiden dat het gebruik van generatieve AI de kosten en inspanning verlaagt die nodig zijn om overtuigende valse inhoud te produceren, waardoor het volume en de verfijning van dergelijke campagnes toeneemt.
Als reactie hierop versterken Taiwanese instanties de detectie- en responsmaatregelen. De overheid zei dat zij investeert in technische hulpmiddelen om synthetische media en gecoördineerd onecht gedrag te identificeren, terwijl zij ook samenwerkt met maatschappelijke organisaties om het publieke bewustzijn van desinformatierisico’s te vergroten. Onderwijsinitiatieven die gericht zijn op het verbeteren van mediakennis worden ook uitgebreid.
Het bureau zei dat het tegengaan van AI-gedreven beïnvloedingsoperaties voortdurende samenwerking vereist tussen overheidsinstanties, technologieplatforms en onafhankelijke onderzoekers. De Chinese autoriteiten hebben zich niet publiekelijk uitgesproken over de specifieke beschuldigingen.