In einer Ära zunehmender digitaler Manipulation prägt nicht nur China mit seiner KI-Propaganda die politische Landschaft. Die rasante Entwicklung von KI-Technologien und die Nutzung sozialer Medien haben neue Wege für politische Einflussnahme eröffnet. Vor diesem Hintergrund werden die Grenzen zwischen Realität und digitaler Fiktion zunehmend verwischt, wodurch die öffentliche Meinung und der gesellschaftliche Diskurs stark beeinflusst werden. Gerade anti-demokratische Kräfte versuchen, diese Entwicklungen auszunutzen und die Demokratie zu untergraben.
China und seine KI-Serie „A Fractured America“
In dieser Woche startete CGTN, ein staatlicher Sender in China, eine englischsprachige animierte Serie namens „A Fractured America“. Die Serie wurde komplett mit künstlicher Intelligenz produziert, einschließlich des Schreibens, der Sprachaufnahmen und der Animation. Ihr Hauptthema dreht sich um die Vorstellung, dass die USA sich im Endstadium des Niedergangs befinden, wobei dystopische Szenarien wie amerikanische Arbeiter in Turbulenzen und der militärisch-industrielle Komplex des Landes dargestellt werden. Obwohl die visuellen Effekte eindeutig von KI generiert werden und die Stimme merkwürdig klingt, besteht das Potenzial für erhebliche Verbesserungen in nur wenigen Jahren, was dieses Werk zu einem potenziell wichtigen Instrument im Arsenal Pekings macht.
Früher wurde die anti-westliche Rhetorik in China oft wegen ihrer Peinlichkeit und schlechten Qualität kritisiert. Doch mit KI-generierten Inhalten hat sich die Qualität solcher Kampagnen deutlich verbessert. Die Serie „A Fractured America“ verdeutlicht, wie KI die Content-Erstellung für Peking erleichtert und kostengünstiger gestaltet hat, wie Henry Eder, ein Experte für generative KI mit Sitz in Großbritannien, erklärt.
Microsoft: Chinas KI-Propaganda und globale Einflussnahme
Ein Bericht des Threat Analysis Center von Microsoft im letzten Jahr ergab, dass KI die Produktion viraler Inhalte erleichtert und die Identifizierung staatlich produzierter Materialien erschwert hat.2 Staatlich unterstützte Akteure in der Volksrepublik China (VR China) haben seit mindestens März 2023 KI-generierte Inhalte entwickelt, die ein hohes Engagement von authentischen Social-Media-Nutzern erzielen.
China hat die Fähigkeit entwickelt, automatisch Bilder für Einflussoperationen auf US-Wähler zu generieren, um Kontroversen entlang rassischer, wirtschaftlicher und ideologischer Linien zu schüren.
Das Ausmaß dieser Operationen ist enorm, mit über 230 Staatsmedienmitarbeitern, die sich als Social-Media-Influencer ausgeben und 103 Millionen Menschen in mindestens 40 Sprachen erreichen können. Gemeinsame Themen sind der Aufstieg Chinas und der Zusammenbruch der USA. Auch andere Demokratien sind betroffen, wie sich an mehr als 100 Deepfake-Videos zeigt, die dem Ministerium für Staatssicherheit Beijings in der Zeit vor den taiwanischen Wahlen im Januar zugeschrieben werden und die die amtierende Präsidentin Tsai Ing-wen angreifen.
Mit der neuen Kampagne zeigt sich, wie Chinas Propagandisten die Möglichkeiten der KI immer professioneller nutzen. Letztes Jahr hatte das Australian Strategic Policy Institute (ASP) von einer Kampagne berichtet, in der auf YouTube mit Videoessays kombiniert mit KI-generierten voice-overs auftauchten, die eine enorme Reichweite von 120 Millionen aufrufen erzielten.
Interessant wird es bei den Wahlen um den US-Präsidenten im Herbst dieses Jahres. Sowohl Russland als auch China setzen vermutlich auf einen Präsidenten Trump. Beide Staaten werden mit ihren Bot-Armeen und KI-generierten Inhalten versuchen, den Wahlkampf in ihrem Sinne zu beeinflussen.
KI und Bots in AfD-nahen Kampagnen
Auch in Deutschland gewinnt das Zusammenspiel von KI-generierten Inhalten und Bots an Bedeutung. Vor allem die AfD und ihr Umfeld machen mit Hilfe russischer Trollfabriken Gebrauch davon. In den letzten Wochen fielen zwei Beispiele besonders auf: Zum einen das sogenannte „Schlumpfgate“ und eine KI-generierte Doktorin.
Im ersten Fall wurde das Geschehen um eine Schülerin in Mecklenburg-Vorpommern für eine Fake-Kampagne genutzt. Die Schülerin hatte diverse Posts mit rechten und zum Teil ausländerfeindlichen Inhalten veröffentlicht. Der Schulleiter informierte die Polizei, die ein Gespräch mit der Schülerin führte. Die AfD und AfD-nahe Accounts auf den Social-Media-Kanälen machten daraus, dass die Schülerin wegen eines relativ harmlosen Posts „Deutschland ist Heimat“ von der Polizei aus dem Unterricht geholt wurde. Innerhalb von Stunden verbreiteten sich KI-generierte Posts von blauen Schlümpfen. Auf die Spitze getrieben hat es der Satiriker Willy Kramer, der mehrere Deepfake-Videos erstellte.
Dort ist aus dem einst idyllischen Schlumpfhausen eine Art Reichsbürgerkommune geworden. Eine Erzählerstimme beginnt: „In einem Land, das vor kurzem noch eine starke Wirtschaft und genug Wohlstand für alle hatte, ist plötzlich der Wurm drin.“ Obwohl dieser Satz normalerweise nicht zu einer Schlumpf-Episode gehört, stammt die Stimme vom Originalsprecher Jochen Striebeck – oder besser gesagt: Die Stimme Jochen Striebecks, die durch eine KI geklont wurde. Die Erzählung ist typisch für die AfD: Die „Schlandpfe“ leiden unter angeblicher „Komplettüberwachung, Bevölkerungsaustausch und Gendersprache“. Der Spuk der „Schlandpfe“ war so schnell vorbei, wie er gekommen war, als der Rechteinhaber der Schlümpfe ankündigte, gegen den Missbrauch seiner Geschöpfe vorzugehen.
Denn dies war das zweite interessante Merkmal: Die „Schlandpfe“: Die Geschwindigkeit, mit der die „Schlandpfe“ durch die sozialen Medien rauschten – und praktisch gleichzeitig verschwanden. In den letzten Jahren sind verschiedene Recherchen zu dem Thema durchgeführt worden, die alle zu dem Schluss kommen, dass russische Bots hinter solchen AfD-nahen Kampagnen stehen, zuletzt von t-online, die dies im Zusammenhang mit den Bauernprotesten aufzeigten.
KI-Bilder: Die „Plagiatorische Outputs“
Ein anderes Beispiel ist eine Doktorin, der die Worte in den Mund gelegt werden, dass sie nun AfD wählen würde. Die Doktorin existiert nicht, sie ist ein KI-generiertes Bild. Nun kann sicher darüber gestritten werden, was nun inhaltlich der Unterschied zwischen einem Testimonial, das aus einer Bilddatenbank gekauft oder ein Modell, das für das Foto bezahlt wurde, sei.
Allerdings könnte die AfD mit dem Bild einige rechtliche Probleme bekommen. Denn wie eine Klage der New York Times aufzeigt, verwenden KI-Sprachmodelle (sogenannte LLMs), wie in diesem Fall OpenAI zu Trainingszwecken mit Daten gefüttert werden, ohne dass dafür eine Erlaubnis vorliegen würde. Schlimmer noch, die LLMs memorieren diese Texte und geben sie praktisch wortwörtlich aus, allerdings ohne Quellenangabe. Solche „plagiatorischen Outputs“ können auch als Bilddateien ausgegeben werden.
In einem Artikel der Website „IEE Spectrum“ werden zahlreiche Beispiele gezeigt, wie Midjourney und DALL-E3 praktisch identische Bilder wie aus urheberrechtlichen Filmen und Cartoons generiert werden – ohne dass der Nutzer dies im Prompt, also der Eingabe, beabsichtigt zu haben. Die Spanne der Beispiele reicht von „The Simpson“, „Super Mario“, „Star Wars“ über Szenen diverser Marvel-Filme bis hin zu Motiven aus den „Hunger Games“. Es kann also durchaus sein, dass das Bild der besagten Doktorin ein „plagiatorischer Output“ ist, ohne dass die beabsichtigt war.
Als dritte Komponente kommt noch die Rolle der sozialen Medien, insbesondere „X“ und Facebook, die sich um europäische oder deutsche Gesetze nicht wirklich kümmern, wie der Prozess von Renate Künast gegen Facebook exemplarisch gezeigt hat. Hier hatte Frau Künast von Facebook verlangt, Memes von sich aus dem Netz zu nehmen. Facebook hatte sich bisher auf den Standpunkt gestellt, dass der Betroffene selber Rechteverletzungen zu suchen und zu melden habe. Das Urteil verpflichtet nun Facebook dazu, alle gleiche und ähnliche Bilder, die die Rechte einer Person verletzen, zu löschen.
Bei X findet man mittlerweile unter dem Deckmantel der „Meinungsfreiheit“ massenhaft Tweets, die offen rechtsradikal und rechtsverletzend sind und nach Maßgabe der DSGVO von X selbstständig gelöscht werden müssten.
Insgesamt stellt diese falsch verstandene Meinungsfreiheit, staatlicher oder vom Staat unterstützte Akteure, sowie antidemokratische Gruppierungen und Parteien stellt eine erhebliche Gefahr dar. Es wird zunehmend klar, dass diese Entwicklungen nicht nur die Integrität demokratischer Prozesse gefährden, sondern auch die öffentliche Meinung und den gesellschaftlichen Diskurs beeinflussen. Das Toleranz-Paradoxon wird dabei offensichtlich: Wenn die Gesellschaft zu tolerant gegenüber Intoleranz ist, kann dies dazu führen, dass demokratische Werte und Prinzipien untergraben werden.
Kommentare lesen und schreiben, hier klicken
China macht auch nichts anderes als wir. Wenn ich personalisierte Werbung angezeigt bekomme, ist das nichts anderes. Microsoft als ist aktiver Akteur in Sachen KI-generierter Beeinflussung und auf ihrer Website MSN werden alle nicht genehmen Kommentare gelöscht. Mein nächster Rechner wird deswegen Linux installiert bekommen.
Nach Clausewitz ist der totale Krieg die Ausrichtung aller Ressourcen eines Landes auf das Kriegsziel. Microsoft, Google, Space-X … sie alle sind Teil des ablaufenden 3. Weltkrieges.
Indes ist die Warnung nichts neues, schon Aldous Huxley hat 1947 davor gewarnt.
Der Untergang der US-Hegemonie ist Thema vieler Publikationen und die Argumente dafür können nicht einfach mit Hinweis auf einen KI-generierten Film weggewischt werden. Dieses Vorgehen wird in diesen Büchern ja gerade kritisiert.
Die Kontroversen entlang rassischer, wirtschaftlicher und ideologischer Linien, ist keine Idee Chinas, es ist das Programm der US-Demokraten und tatsächlich eine der grössten Gefahren für die USA, die bis heute kein richtiger Nationalstaat geworden sind. Im Schatten dieser Politik, wird der eigentliche US-Amerikaner, der nach wie vor das Land mit seiner Arbeit finanziert, regelrecht kriminalisiert und zum Sklaven für alle anderen Gruppen degradiert.
KI wird ohnehin keine grosse Zukunft haben, der Energiebedarf wird wegen der im Bau befindlichen Rechenzentren um 500% steigen, so die Berechnungen britischer Energiekonzerne. Wem will man denn den Strom dafür rationieren ohne, dass es zu Unruhen kommt?
In der Mechanik gibts den Satz: Actio gleich Reactio
Wo sind die Daten über KI Aktionen der Ampel- oder Biden Regierung. Wollen Sie uns vermitteln das dort noch analog gearbeitet wird?
@Dói Ennoson: Zitat „Facebook hatte sich bisher auf den Standpunkt gestellt, dass der Betroffene selber Rechteverletzungen zu suchen und zu melden habe. Das Urteil verpflichtet nun Facebook dazu, alle gleiche und ähnliche Bilder, die die Rechte einer Person verletzen, zu löschen“
Daran hat sich auch nichts geändert. Ob Rechte von Personen verletzt werden, kann nur im Einzelfall geprüft und gerichtlich entschieden werden. Ansonsten sind dies bloße Annahmen. Es gibt auch keinen Unterschied zwischen guter und schlechter Meinungsfreiheit, genauso wenig wie es den guten oder den schlechten Kapitalismus gibt. Das ist immer das Ergebnis am Ende. Meinungsfreiheit heißt schlicht: Alle dürfen lügen. Nicht nur die Regierung.
@AE_Conrady
Nach Ihrem Hinweis habe ich das Urteil erneut überprüft, das auch in der zweiten Instanz bestätigt wurde und nun rechtskräftig ist. Gemäß diesem Urteil ist Facebook dazu verpflichtet, alle Bilder mit der betreffenden Aussage von Frau Künast eigenständig zu löschen. Dies schließt auch sinngleiche Bilder ein. Folglich liegt die Verantwortung bei Facebook, da bereits eine einmalige Anzeige einer Rechtsverletzung genügt. Sollte Facebook erneut gegen diese Auflage verstoßen, sieht die DSGVO eine Strafe von bis zu 4% des weltweiten Umsatzes vor, sofern ich mich richtig erinnere. Es ist anzunehmen, dass Facebook weiterhin versuchen wird, sich dieser Verpflichtung zu entziehen, es sei denn, es ergehen weitere Urteile in ähnlicher Richtung.
Was Sie machen, Sie eröffnen mit China und gehen dann ich ein AFD Bashing über.
Wäre es nicht besser wir würden mal anfangen die Leute wieder in selbständiges Denken zu lenken, der Mensch wäre dazu fähig! Den jungen Leute wird heute nur noch beigebracht, der Staat kümmert sich um alles und du musst ihm vertrauen ( sonst kommt der Staatsschutz ^^)!
@Daniel Kaspar
Könnten Sie mich aufklären, wo ich China- oder AfD-Bashing betrieben habe? Ich habe lediglich anhand von zwei Beispielen erklärt, wie sich die Propaganda in Zeiten der KI verändert. Dabei habe ich keinerlei Wertung vorgenommen. Tatsächlich finde ich es äußerst faszinierend, wie rasch insbesondere China Fortschritte im Bereich der KI-Propaganda macht. In den letzten Monaten gab es erhebliche Entwicklungen auf diesem Gebiet.
Anhand der beiden Kampagnen mit Beteiligung der AfD konnte ich gut die Risiken verdeutlichen, die bei der Verwendung von LLMs lauern, ohne dass der Benutzer davon etwas ahnt. Dass die AfD mit ihrer Schlumpf-Kampagne wieder einmal Falschinformationen verbreitet hat, habe ich in dem Artikel nicht näher behandelt, da es für den Kontext unwichtig war. Dass die AfD Verbindungen nach Russland hat, ist nichts Neues, genauso wie Zahlungen aus China an AfD-Politiker.
Es liegt nicht in meiner Verantwortung, meine Leser zu erziehen. Im Gegenteil, ich erwarte von meinen Lesern, dass sie in der Lage sind, eigenständig zu denken. Allerdings zeigt die Erfahrung der letzten Jahre, dass genau diejenigen, die von „eigenständigem Denken“ sprechen, dazu oft nicht im Geringsten fähig sind.
Es erhalten auch viele Geld aus den USA … Die hier gehen sogar sehr offen damit um: https://www.ned.org/
Wieso wird hier nicht von Einflussnahme und Wahlmanipulation gesprochen?
An die Professionalität und den Umfang von Einflussnahme kommen die Russen und Chinesen noch lange nicht an die USA heran.
Wieso ist es in dem einen Fall gut, im anderen aber schlecht? In meiner Definition von „Demokratie“ muss ein jeder frei seine Entscheidung fällen können.
Behaupten kann jeder etwas. Dass hier russische und chinesische KI-Trolle ihr Unwesen treiben, dafür wurden mir bisher keine Beweise vorgelegt. Ich muss es glauben oder eben nicht. Dünnes Eis.
@Stressbolzen
Sie sind also entweder blind oder naiv, oder beides. Wie oft wurde schon ueber russische Bot-Netzwerke berichtet? Auch mit Beweisen. Was China angeht: Der Autor verweist sogar auf eine Studie darueber….
Aber wahrscheinlich sind russische Propagandisten, die AfD-Politiker mit Gel bezahlen, auch nur Erfindungen…
Soweit ich weiss, hat Sonderermittler Robert Muller nach zwei Jahren keine Beweise für eine russische Einmischung in die US-Wahlen gefunden. In diesem Fall war das Geschrei ebenso gross, es wurde von Beweisen gesprochen, etc. Nun, da die Ukraine in der Offensive versagt hat und neuerlich Wahlen anstehen, kommt die Geschichte wieder hoch und wer hat es aufgeworfen? Hillary Clinton. Ein Schelm wer böses dabei denkt.
Ebenso das Havanna-Syndrom. Das angebliche Signal der Russen wurde von Wissenschaftlern als Käferzirpen identifiziert.
Ich bin nicht blind, ich sehe mich nur an so vielen Orten wie möglich um. Beweise für diese vorwürfe habe ich keine gesehen und ich kann Ihnen eine Studie erstellen, die ganz klar beweist, dass Schnee schwarz ist.
Nö, so einfach kriegt man mich nicht.
@Stressbolzen
oh, einen Strohmann! Wer hat von den Ermittlungen von Muller gesprochen? Richtig. Keiner. Nicht ich, nicht der Autor des Artikels.Und wer sprach von dem Havana-Syndrom? Wo steht das bitte im Artikel?
Richtig. Nirgends.
Nur wieder eine Blendgranata, die davon ablenken soll, dass ueber die letzten Jahre immer mal wieder russische Botnetze lahmgelegt wurden.
Oh, und von den Geldkoffern fuer AfD-Funktionaere wollen Sie natuerlich auch ablenken…
Sie haben von Beweisen gesprochen und damit steht Robert Muller im Zusammenhang. Das Havana-Syndrom steht deshalb im Zusammenhang, weil es in der Desinformationskampagne eine Rolle einnimmt.
Im übrigen gibt es in einer Demokratie keine „Strohmänner“ sondern nur differente, legitime Ansichten und Auslegungen. Das mit der unfehlbaren Staatsgewalt hatten wir in der Historie ja schon mehrfach und wie die jeweils ausgegangen sind, kann jeder selbst nachlesen.
Zur AfD habe nun ich rein gar nichts geschrieben, da ich weder Deutscher bin noch in Deutschland lebe. Es geht um die transatlantische Agenda. In dieser wird die AfD zwar auch instrumentalisiert aber das spielt in diesem Sinne keine Rolle, weil das Ponzi-Schema der USA vorher kollabieren wird. Dazu verlinke ich ihnen sogar was: https://rumble.com/v4n59r0-biden-8-approval-means-panic-and-war-martin-armstrong.html
Was, @Stressbolzen, hat ein „Strohmann-Argument“ mit einer Demokratie zu tun? Ein Strohmann-Argument ist eine rheotorische Figur. Sie benutzen den Strohmann hier, indem Sie eine Aussage machen, die in keinerlei sachlichen Bezug zum Artikel oder meinen Aussagen steht und auch niemand behauptet hat. Die Muller-Ermittlungen bezogen sich auf Geheimabsprachen zwischen Russland und dem Trump Wahlkampfteam. Der Artikel bezieht sich auf russische bots. Zwei voellig unterschiedliche Dinge.
Ebenso hat das Havana-Syndrom nichts mit russsichen Bots zu tun, also Gruppen wie die Einheit 26165, die auf den Angriff auf den dt. Bundestag verantwortlich ist, oder 0day Technologies oder ganz aktuel das „Doppelgänger“-Netzwerk, das Schroeders Geburtstag feiert (aber nicht nur das).
Da hat sich ja der Autor dieses Artikels eindeutig in ein Lager / eine Schublade gestellt.
Es scheint zumindst so
solange es auf der Welt noch billigere Arbeitskräfte gibt, als die Ergebnisse, die die teuren Nvidia Chips liefern, wird das mit KI so schnell nichts:
https://www.n-tv.de/24848134
die Frage ist dann nur noch: wie viele Mexikaner entsprechen einem H100?