Die taiwanesischen Behörden sagen, dass Akteure, die mit China in Verbindung stehen, zunehmend künstliche Intelligenz und Deepfake-Technologie bei Einflussoperationen gegen Taiwan einsetzen. Die Warnung wurde vom National Security Bureau herausgegeben, das erklärte, die Kampagnen seien darauf ausgelegt, die öffentliche Meinung zu manipulieren und das soziale Vertrauen zu untergraben.
Laut dem Büro sind die Abläufe auf KI-Tools angewiesen, um große Mengen irreführender Inhalte schnell zu generieren und zu verbreiten. Dazu gehören gefälschte Nachrichtenartikel, automatisierte Social-Media-Beiträge sowie synthetische Bilder und Videos, die als authentisch präsentiert werden. Beamte sagten, das Material werde häufig über koordinierte Netzwerke von gefälschten Konten und Webseiten verbreitet, um seine Reichweite zu vergrößern.
Das Büro sagte, chinesische Auftragnehmer, darunter Technologie- und Marketingfirmen, sollen an der Produktion und Verbreitung der Inhalte beteiligt sein. Diese Organisationen sollen automatisierte Systeme nutzen, um Konten zu verwalten und Material auf mehreren Plattformen zu veröffentlichen, sodass Kampagnen mit begrenzter menschlicher Beteiligung schnell skalieren können. Taiwanesische Beamte beschrieben den Ansatz als Teil eines umfassenderen Bestrebens, Druck durch Informationsmanipulation statt durch Konfrontation auszuüben.
Deepfakes und andere KI-generierte Medien seien laut Behörden ein wachsendes Problem, da sie reale Personen und Ereignisse überzeugend nachahmen können. Das Büro berichtete, dass manipulierte Bilder und Videos genutzt wurden, um politische Persönlichkeiten und Regierungsmaßnahmen falsch darzustellen, was Verwirrung stiftet und das Vertrauen in verifizierte Informationsquellen untergraben.
Taiwan hat ähnliche Taktiken zuvor mit Versuchen in Verbindung gebracht, die innenpolitische Debatte zu beeinflussen, auch während Wahlperioden. Beamte sagten, der Einsatz generativer KI senke die Kosten und den Aufwand, überzeugende falsche Inhalte zu erstellen, was das Volumen und die Raffinesse solcher Kampagnen erhöht.
Als Reaktion darauf stärken taiwanesische Behörden die Erkennungs- und Reaktionsmaßnahmen. Die Regierung erklärte, sie investiere in technische Werkzeuge, um synthetische Medien und koordiniertes unechtes Verhalten zu identifizieren, und arbeitet gleichzeitig mit zivilgesellschaftlichen Gruppen zusammen, um das öffentliche Bewusstsein für Desinformationsrisiken zu verbessern. Bildungsinitiativen, die darauf abzielen, die Medienkompetenz zu verbessern, werden ebenfalls ausgebaut.
Das Büro erklärte, dass die Bekämpfung von KI-gesteuerten Einflussoperationen eine fortlaufende Zusammenarbeit zwischen Regierungsstellen, Technologieplattformen und unabhängigen Forschern erfordert. Die chinesischen Behörden haben sich zu den konkreten Vorwürfen nicht öffentlich geäußert.