Ein australisches Institut hat ein China-Nahes Netzwerk von YouTube-Kanälen aufgedeckt, die durch Videos mit durch Künstlicher Intelligenz (AI) generierten Stimmen chinesische Propaganda verbreiten und dabei vor allem die USA diskreditieren. Die Kampagne hat damit hunderte Millionen Aufrufe erreicht.
China: Künstliche Stimmen, Avatare und Desinformation
Das Australian Strategic Policy Institute (ASP), das teilweise von der australischen Regierung finanziert wird, hat kürzlich einen Bericht über eine sogenannte „koordinierte unauthentische Einflusskampagne“ auf YouTube veröffentlicht. Diese Kampagne bedient sich AI-Stimmen, um pro-chinesische und anti-amerikanische Erzählungen zu verbreiten. Der Bericht hebt hervor, dass einige Videos künstlich generierte Avatare oder Sprachaufnahmen verwenden, was diese Kampagne einzigartig macht – sie ist die erste bekannte Einflussoperation, die AI-Stimmen mit Videoessays kombiniert. Obwohl ähnliche Kampagnen in der Vergangenheit aufgedeckt wurden, sticht diese hervor durch ihre außergewöhnliche Raffinesse und ihre enorme Reichweite, die beeindruckende 120 Millionen Aufrufe erreicht hat.
„Shadow Play„, wie die koordinierte Aktion von ASP genannt wird, sind mindestens 30 YouTube-Kanäle zugeordnet, die bislang über 4.500 Videos produziert haben. Diese Kanäle haben knapp unter 120 Millionen Aufrufe und 730.000 Abonnenten generiert. Die Veröffentlichung der Inhalte begann etwa Mitte 2022. ASPI geht davon aus, dass die Kampagne höchstwahrscheinlich von einem Mandarin-sprechenden Akteur betrieben wird. Die Hauptanalyse deutet darauf hin, dass der Betreiber dieses Netzwerks ein kommerzieller Akteur sein könnte, der unter staatlicher Anleitung, Finanzierung oder Ermutigung handelt. Dies legt nahe, dass patriotische Unternehmen möglicherweise zunehmend China-nahe Kampagnen parallel zu staatlichen Akteuren durchführen. Von den 30 Kanälen sind mittlerweile 19 gesperrt. Mindestens einer davon wurde durch Intervention des Medienunternehmens „Synthesia“, dass die AI-Stimme zur Verfügung gestellt hat, geschlossen.
China nutzt neuartiges Zusammenspiel von Künstlicher Intelligenz und Videomaterial
Durch die innovative Integration von AI-generierten Stimmen und -Avatare, sowie dem Videomaterial hat die Aktion „Shadow Play“ nicht nur eine ungewöhnlich große Zuschauerschaft angezogen, sondern setzt auch auf die Verbreitung pro-chinesischer und anti-amerikanischer Erzählungen. Ihr Ziel besteht darin, die Sichtweise englischsprachiger Zuschauer bezüglich der Rollen dieser Länder in internationalen politischen Angelegenheiten, der globalen Wirtschaft und im Wettbewerb um strategische Technologien zu beeinflussen. Diese bahnbrechende Initiative hat nicht nur aufgrund ihrer beachtlichen Reichweite Aufmerksamkeit erregt, sondern auch aufgrund ihrer fortschrittlichen Nutzung von AI-Technologien zur Verbreitung ihrer Botschaft.
Die Kampagne konzentriert sich auf sechs Erzählungen, von denen zwei besonders dominierend sind: Die Behauptung, dass China in entscheidenden globalen Wettbewerbsbereichen vorne liegt, insbesondere im US-chinesischen Technologiekrieg und im Wettbewerb um seltene Erden und kritische Materialien. Andere Schlüsselerzählungen behaupten, dass die USA dem Zusammenbruch entgegensteuern, ihre Bündnispartnerschaften bröckeln, dass China und Russland verantwortungsbewusste und fähige Akteure in der Geopolitik sind, dass der US-Dollar und die US-Wirtschaft schwach sind, und dass China extrem fähig und vertrauenswürdig ist, um massive Infrastrukturprojekte umzusetzen.
Chinesische Desinformationskampagnen sind – genau wie die von westlichen Akteuren gestreuten Anti-chinesischen Agitation, sei es von staatsnahen oder staatlichen Akteuren – kein neues Phänomen. Herausragend und herausfordernd ist nun, wie nun künstliche Intelligenz genutzt wird, um Einflussnahme zu generieren. Es wird sicherlich spannend zu beobachten, wie sich diese Art des Propaganda-Krieges zwischen China und den USA entwickeln wird.
Kommentare lesen und schreiben, hier klicken
Es gibt sowas wie eine chinesische NSA? Das ist ja ein handfester Skandal! Die zivilisierte Welt sollte umgehend protestieren. Solche Praktiken sollten den westlichen Profis vorbehalten bleiben.
@cui bono
Das interessante an dieser Kampagne ist die Innovation, nicht dass die Chinesen Agitation gegenüber den USA betreiben. Es ist das Zusammenspiel aus Texten, die offensichtlich mit Hilfe von KIs erstellt wurden, KI-Stimmen und Videos. Es lohnt sich mit Sicherheit, das genau zu analysieren, denn in Zukunft werden wir mehr dieser Projekte sehen. Einige chinesische E-Commerce-Anbieter haben damit schon experimentiert, aber nicht auf diesem Niveau.
Es handelt sich im übrigen mit hoher Wahrscheinlichkeit um nicht-staatliche Akteure.
Da gebe ich Ihnen grundsätzlich Recht. Allerdings ist das generieren von Texten/Plagiaten/Fakes mit Hilfe von KI schon fast ein alter Hut – ChatGPT lässt grüßen.
Warum sollte sich das irgend ein Geheimdienst dieses Planeten als weitere Möglichkeit entgehen lassen? Spätestens seit Snowden muss doch dem letzten ein Licht aufgegangen sein. Dagegen hilft letztlich nur Transparenz und echte Demokratie, welche leider weltweit zur Zeit massiv abgebaut werden – nicht nur in China.
@CuiBono Das neuartige ist die Kombination aus den Elementen:
– AI generierter Text
– AI Voice over
– Video
+ Die Verbindung mit einem Troll-Netzwerk
Sicher, das war zu erwarten, das das gemacht wird, aber hier sehen wir das erste Mal, wie so eine Kampagne aufgezogen wird.
Wir werden das in Zukunft öfter sehen von den üblichen Verdächtigen, also Russland, Nordkoreas und gegen China gerichtet von Falun Gong.
Ja, das muss ein Plagiat sein, verwerflich so etwas. Bezahlt China wenigstens Urhebergebühr ?
Oh Gott, Ich bin auch schon infiziert. Ich habe eine Mao- Büste im Wohnzimmer stehen. Danke für die Warnung.
Tja, was die USA können kann China auch. Warum regt man sich darüber auf ?
Fragt sich wer angefangen hat. Logisch,
WIR der Westen sagen immer die Warheit.
@ottonorma Artikel nicht gelesen oder kapiert? Den Kommentar des Autors, den Sie kommentiert haben, nicht gelesen oder nicht kapiert?
nun ja, würde eine Nachhilfe in deutsch helfen, Textanalyse und -imterpretation.
Worin genau bestand jetzt eigentlich die „Desinformationskampagne“? Die von einer KI generierten Sockenpuppen sind doch lediglich ein Mittel um Kosten zu sparen.
@Nvidianer
ach, das übliche . China ist toll, die USA gehen unter. Die Videos, die ich mir angesehen habe, fand ich jetzt vom Inhalt nicht sonderlich interessant .