Guten Tag. Europas Demokratie stehe am Sonntag auf dem Spiel, heißt es heute in zahlreichen Wahlaufrufen und Zeitungsbeiträgen – anderswo, wo eine Nummer kleiner vergriffen war. Das Europaparlament wird ein eher schwaches Parlament bleiben. Ob Ursula von der Leyen Kommissionspräsidentin bleibt, darüber dürfen die Europäer gar nicht abstimmen.

Vielleicht erklärt auch das, warum der befürchtete große Angriff auf die Europawahl bislang ausgeblieben ist. Vielleicht schätzt etwa der Kreml ihren Ausgang als nicht so ausschlaggebend ein, dass sich eine breit angelegte Desinformationskampagne lohnte. Vielleicht – und das wäre ja wirklich bedrohlich – haben wir uns aber auch schon gewöhnt an menschenfeindliche Rhetorik im Netz, an die Cyber-Angriffe, die Zensurvorwürfe, Wut und Entfremdung und zuletzt auch an die Berichte von Gewalt gegen Politiker.

„Bislang unterscheidet sich der Europawahlkampf nicht sehr von anderen Wahlkämpfen der jüngeren Zeit“, sagt Claes der Vraese, der an der Universität Amsterdam den Einfluss von Technologie auf die Demokratie erforscht. „Es gab viele Einzelfälle von Desinformation, etwa zu den Themen Migration oder Klima. Auch einige russische Netzwerke, die Einfluss auf die Stimmung in Europa nehmen wollten, wurden aufgedeckt.“ Viel sei gewarnt worden vor dem Einsatz von generativer KI im Wahlkampf, also von Tools wie ChatGPT, mit denen massenhaft Desinformation, Fake-Videos etwa von Politikern produziert werden könnten. Dennoch sei der große Gau bislang ausgeblieben.

Entwarnung will der Experte aber bisher nicht geben: Durchaus könnten bis Sonntag etwa noch KI-generierte Audio- oder Video-Dateien in Umlauf geraten, die das Potenzial hätten, Wahlentscheidungen zu beeinflussen oder Menschen sogar ganz vom Wählen abzuhalten. Missbrauchspotenzial haben die neuen KI-Tools außerdem ganz offensichtlich: Eine Untersuchung des Center for Countering Digital Hate will zeigen, dass der KI-Anbieter Midjourney in 40 Prozent der Fälle auf Anfrage politische Fakes produziert, Bilder etwa von Olaf Scholz, wie er ankommende Geflüchtete in einem südfranzösischen Hafen freudig mit Handschlag begrüßt. Anfang des Jahres hatte Midjourney noch angekündigt, die Produktion solcher politischen Deepfakes unterbinden zu wollen.

Wir schauen uns den digitalen Meinungskampf kurz vor der Europawahl an – zunächst zum Überblick.

Sanktoniert, aber nicht überall: Seit dem russischen Angriffskrieg hat die EU mehrere vom Kreml kontrollierte Medien und Einzelpersonen sanktioniert. Eine Analyse der Organisation Alliance 4 Europe zeigt nun jedoch, dass sie auf Tiktok weiterhin für Nutzer innerhalb der EU zugänglich sind.

Bauernproteste kommen Moskau gelegen: Das Digital Forensic Research Lab des Atlantic Council hat aufgedeckt, wie Kreml-nahe Quellen versuchen, Proteste polnischer Landwirte für sich zu nutzen, um entsprechende Konflikte zwischen Polen und der Ukraine zu verstärken. Ein neues Dashboard von Who Targets Me soll zeigen, wer welche Zielgruppe auf den Meta-Plattformen mit bezahlter Werbung erreichen will.

Microtargeting ist so 2018: Auch die BBC hat sich Online-Werbeanzeigen näher angeschaut und dabei festgestellt: Bei politischer Werbung im Vereinigten Königreich ist Microtargeting à la Cambridge Analytica out. Stattdessen würden Millionenbeträge für Anzeigen ausgegeben, die möglichst viele erreichen sollen.

Vorsicht DMs: Cyberangreifer sollen auf Tiktok versucht haben, sich Zugang zu Accounts von Medienorganisationen und Prominenten zu verschaffen, darunter CNN und Paris Hilton. Die Attacke soll über Privatnachrichten gelaufen sein.

Orange creator: Auch Donald Trump ist jetzt auf Tiktok – fast sechs Millionen Follower gewann er in weniger als einer Woche.

Die Europawahl vor fünf Jahren galt als Klimawahl. Den Grünen bescherte das mit über 20 Prozent ein einzigartig hohes Ergebnis. Ihren Wettbewerbsvorteil hat die Partei inzwischen verloren: Nicht etwa, weil die Klimakrise gelöst wäre, sondern weil sie immer weniger Menschen zu beschäftigen scheint.

Daran ändert auch die Flut in Süddeutschland nichts. In den ersten Tagen der Flut sahen selbst die Grünen davon ab, eine Verbindung herzustellen zwischen der Naturkatastrophe und dem Klimawandel, das zeigt eine Analyse der X-Accounts von Bundestagsabgeordneten, Spitzenkandidaten zwischen dem 29. Mai und dem 6. Juni.

Unter den 25 populärsten Hashtags lag „Hochwasser“ bei den Grünen nur auf Platz drei: hinter „Mannheim“ und dem Wahlkampfslogan „Machenwaszählt“. Der Hashtag „Starkregen“ rangierte sogar nur auf Rang zwölf. Stattdessen twitterten die Grünen auch zu Themen wie Ukraine oder Nordstream2. Allerdings: im Endspurt posten die Grünen doch noch eifrig Inhalte zum Hochwasser- und fingen sich vom Twitter-Neuling Wolfgang Kubicki (FDP) gar den Vorwurf ein, die Flutkatastrophe für Wahlkampfzwecke zu instrumentalisieren.

Klimakrise – und keiner geht hin? Wie kommt es aber, dass die Menschheitsbedrohung plötzlich nicht mehr zu mobilisieren scheint? Silke Borgstedt, Geschäftsführerin des Sinus-Institutes, hat eine Erklärung: Gerade in der Mitte der Bevölkerung hätten die geopolitischen Krisen wie der Krieg in der Ukraine oder der Konflikt in Nahost dazu geführt, dass die Menschen sich stärker auf ihr nahes Umfeld konzentrieren, also eher auf „ihren eigenen Geldbeutel“ schauen. Das Klimathema sei vor dem „Hintergrund dieser zusätzlichen Krisen zurückgedrängt“ worden, sagt Borgstedt.

Das zeigt auch eine Studie im Auftrag der Friedrich-Ebert-Stiftung, die vor zwei Wochen veröffentlicht wurde. Demnach hält eine deutliche Mehrheit der Befragten in Deutschland den Klimawandel zwar für ein sehr wichtiges Thema. Gefragt danach, worum sich die Politik kümmern soll, stehen aber Inflation und sinkende Kaufkraft ganz oben auf der Prioritätenliste.

Auch die AfD versucht kurz vor der Wahl, ihre Spins zu platzieren. Dabei hat die AfD mit ihrem Kernthema offenbar mehr Erfolg in den sozialen Medien als die Grünen mit ihrem. Ein Facebook-Post etwa, in dem die AfD die deutsche Migrationspolitik für „Messerterror“ und „sexuelle Übergriffe“ verantwortlich machte, erhielt über 23.000 Likes.

Maximale Aufmerksamkeit: Auch insgesamt funktioniert eine Anti-Migrations-Linie in sozialen Netzen offenbar besser als Klimasorgen. Betrachtet man die 50 erfolgreichsten Instagram-Posts aller Parteien seit dem 1. Mai, dann thematisieren sechs Posts der Grünen das Thema Klima, während mehr als doppelt so viele Posts der AfD die Themen Asyl und Migration und das Attentat in Mannheim behandeln. „Das Migrationsthema ist maximal hochgespült“, sagt die Meinungsforscherin Silke Borgstedt. Noch vor zwei Jahren habe es bei der Mitte der Bevölkerung nicht stattgefunden.

Davon profitiert die AfD spürbar: Sie hat ihre Reichweite auf allen Plattformen in der vergangenen Woche noch einmal ausbauen können. Allein auf Instagram hat sie in nur sieben Tagen knapp 7500 Follower dazugewonnen. Auch Ihr Wahlkampfspot wurde auf Youtube wurde mit 550.000 Views fast doppelt so häufig angesehen wie das Video der SPD, der Partei mit den zweitmeisten Aufrufen.

Facebook lebt: Auch auf der oft totgesagten Plattform Facebook erreicht die AfD 602.930 Follower, in etwa genau so viele wie SPD, FDP und Grüne gemeinsam. Follower-Zuwächse verzeichnet neben der AfD in letzter Zeit indes nur eine Partei: Das Bündnis Sahra Wagenknecht (BSW) hat vergangene Woche knapp 1600 Fans hinzugewonnen und wächst damit von allen Parteien am stärksten.

Populistische Dominanz in Zahlen: Von den 50 am häufigsten gelikten Facebook-Posts im Zeitraum 22.04.- 22.05.2024 der vergangenen vier Wochen stammen 44 von der AfD, darunter die 15 erfolgreichsten Posts. Vier kommen von der FDP, einen können jeweils das BSW und die Linke für sich verbuchen. Der erfolgreichste Post der AfD bezog sich auf den Terroranschlag in Mannheim: „Mannheim ist kein Einzelfall“. Der Beitrag erzielte über 23.700 Likes und wurde 3850-mal geteilt.

Heimliches Hufeisen: Auffallend ist, dass sowohl die Beiträge der AfD als auch die des BSW fast ausschließlich zustimmende Reaktionen erhalten – also „Daumen hoch“-Klicks. Anders sieht es bei den Ampel-Parteien aus. Die Beiträge der SPD oder der FDP erhalten beispielsweise vor allem den Wut-Emoji oder den spöttisch lachenden Emoji; bei der SPD machte der spöttisch lachende Emoji in den vergangenen Wochen sogar 85 Prozent aller Emotions-Emojis und mehr als jede fünfte Emoji-Reaktion aus.

Durchmischter sieht das auf Instagram aus: Hier halten die Grünen die Spitzenposition, wenn es um die Follower-Zahl geht. Die AfD holt zwar stetig auf, doch die Grünen konnten in den letzten sieben Tagen immerhin ebenfalls rund 12000 neue Anhänger gewinnen. Am wenigsten Zuspruch erhält auf Instagram die CSU. Vielleicht setzt die Partei schlicht aufs falsche Format: Als einzige postet sie nicht verstärkt Video-Content. Das ist auch bei Facebook so. Dort spielte die CSU mit gerade einmal zehn Video-Posts in vier Wochen am wenigsten Videos aus. Bei Grünen und SPD macht Video hingegen jeweils mehr als 50 Prozent des jeweiligen Contents aus.

Dass die etablierten Parteien es nicht geschafft haben, die Dominanz der AfD im Netz zu brechen, liege auch daran, dass ihr Rückstand so groß war, so der Verdacht von Tim Herrmann, früher mal Kampagnenleiter bei der SPD, heute freier Kommunikationsberater.

Soziale Medien spielten für Parteistrategen eine nachgeordnete Rolle: „Das Leitmedium im Wahlkampf bleibt das Plakat, der größte Teil der Wahlkampfbudgets fließt nach wie vor in den Plakatwahlkampf“, sagte er. Denn Wahlplakate könnten im Laufe einer Kampagne sogar mehrere Milliarden Mal angeschaut werden.

Zum Vergleich: Ein TikTok-Video der SPD erzielt selten mehr als 10.000 Views. Aktionen wie die Kampagne "Reclaim Tiktok" wurden von zivilgesellschaftlichen Organisationen ins Leben gerufen, nicht von den Parteien selbst. „Anders als die AfD schaffen es die demokratischen Parteien nicht, im Netz Narrative zu prägen, die dann auch gesamtgesellschaftliche Debatten bestimmen,“ sagte der Kommunikationsexperte Herrmann.

Hegemonie von rechts: Die Anne Frank Stiftung, die diese Woche eine Studie zu rechten Influencern auf der Plattform veröffentlichte, spricht von einer „rechten Hegemonie im deutschsprachigen TikTok“. Unsere Datenanalyse zeigt, dass das nicht nur auf die Bundesrepublik zutrifft. Die Dominanz der Rechten und Rechtsextremen im Netz, sie aber kein deutsches, sondern ein europäisches Phänomen: In 14 Mitgliedstaaten, in dem die vorherrschende rechte Partei – oder im Fall von Deutschland deren Fraktion – einen Tiktok-Account hat, sammelt dieser mehr Likes und Views ein als Accounts anderer Parteien.

Eine Auswertung der Total Views vom 1. April bis 6. Juni zeichnet ein deutliches Bild: Unter allen offiziellen Partei-Accounts haben die rechtsradikalen Schwedendemokraten die meisten Views eingesammelt, rund 26,2 Millionen. Den zweiten Platz – wenn auch mit knapp 15,1 Millionen Views deutlich dahinter – belegt Vox, Spaniens rechtspopulistische Partei. Gefolgt von Polens ultrarechter Partei Konfederacja (12,4 Millionen), den französischen Rechtspopulisten vom Rassemblement National (10,9 Millionen), Ungarns Fidesz (7 Millionen) und der Fratelli d’Italia (6 Millionen).

Die deutschen Rechten so: Der Account der AfD-Bundestagsfraktion hat in den vergangenen zwei Monaten rund 2,6 Millionen Views gesammelt. Das ist deutlich mehr als die innerdeutsche Konkurrenz hat – die CDU kommt nur auf rund 955.000 Views, der Bundestagsfraktions-Account der SPD auf 946.000. Doch im europäischen Vergleich landet die AfD damit nur auf Platz 14.

Auch beim Top-Personal ist die AfD in Europa nicht tonangebend. Als Posterboy der europäischen Rechten gilt der Franzose Jordan Bardella, der auf TikTok 1,3 Millionen Follower zählt. Allein in den vergangenen zehn Wochen hat er dort mit seinen Videos rund 157 Millionen Aufrufe und mehr als 15,5 Millionen Likes erzielt. Zum Vergleich: Die AfD Parteivorsitzende Alice Weidel (290.300 Follower) kam im selben Zeitraum auf 577.000 Views und knapp 40.000 Likes.

Im Netz liegen die Rechten uneinholbar vorn – nicht aber auf deutschen Straßen. Die Zahl und Position der Plakate, die jede Partei aufstellen darf, ist streng reguliert. Die Werbefläche nutzen die etablierten Parteien dann auch für eine Abgrenzung zur AfD: „Einigkeit, gegen Rechts, für Freiheit“, verlautet ein Plakat der Grünen; „Migration steuern, sonst machen es die Falschen“, warnt die FDP. Gelitten habe dabei die Abgrenzung der etablierten Parteien untereinander, sagt der Kommunikationsexperte Tim Herrmann: „Die Ziele, die demokratische Parteien im Wahlkampf formuliert haben, waren deckungsgleich: Frieden, Sicherheit, Wohlstand.“ Auch über Europa sei zwar viel geredet worden – eine sichtbare Auseinandersetzung darüber, wie sich etwa Investitionen finanzieren, EU-Institutionen reformieren ließen, seien die Parteien aber schuldig geblieben.

Entgegen vieler Befürchtungen sind Audio-Deepfakes im EU-Wahlkampf bisher keine Bedrohung gewesen. Es besteht also kein Grund zur Panik, entspannt zurücklegen sollte man sich aber auch nicht voreilig. Das zeigte im Herbst 2023 ein Fall in der Slowakei. Zwei Tage vor der Wahl war eine Audio-Aufnahme auf Facebook gepostet worden, auf der angeblich zu hören sein sollte, wie der Vorsitzende der Liberalen Partei mit einer Journalistin darüber sprach, das Wahlergebnis zu manipulieren.

Heute leider leicht: „KI-Modelle haben sich stark weiterentwickelt. Die Stimme eines Politikers oder einer Politikerin zu klonen, war vor zwei Jahren noch sehr aufwendig“, sagte Nicolas Müller, der am Fraunhofer-Institut für Angewandte und Integrierte Sicherheit AISEC zu Audio-Deepfakes forscht.„Geübte Personen brauchten für den kompletten Prozess ein bis zwei Tage“, sagte Müller. Mittlerweile reiche eine 30 Sekunden lange Aufnahme, die in eins der zahlreichen Online-Tools hochgeladen werden könne. „Vielleicht ist nicht das erste Ergebnis, das generiert wird, gut genug. Aber in der Regel kann jeder Laie in einer halben Stunde einen guten Fake erstellen.“

Danke für nichts: Einer der aufsehenerregendsten Fälle von Audio-Deepfakes ereignete sich im Januar im US-Bundesstaat New Hampshire. Eine künstlich erzeugte Stimme, die US-Präsident Joe Biden imitierte, hatte potenzielle Wähler in Wahlkampfanrufen dazu aufgerufen, nicht an den Vorwahlen teilzunehmen. Ein politischer Berater der Demokraten bestätigte später, hinter den Anrufen zu stecken. Er habe, so seine Darstellung, auf die Gefahr aufmerksam machen wollen. Gegen den 54-Jährigen wurde im Mai offiziell Anklage erhoben.

Schwer, nicht unmöglich – so enttarnt man Deepfakes: Das erste Mittel der Wahl ist das Gehör. Eine monotone Stimme, metallischer Klang, falsch ausgesprochene Wörter, zeitliche Verzögerungen, unnatürliche Pausen oder Geräusche – all das können erste Indikatoren für synthetische Stimmen sein. Handelt es sich um einen vermeintlichen Deepfake einer bekannten Person, sollte man die Aufnahme auch mit anderen Audioaufnahmen der Person vergleichen. Vor allem spezifische Charakteristika in der Sprechweise – wie Akzente oder Betonungen – sind für manche Fake-Tools noch immer schwer nachzuahmen.

Training: Das Fraunhofer AISEC hat ein Audio-Quiz entwickelt, mit dem sich jeder selbst testen und sein Ohr schulen kann. In einer Nutzerstudie mit rund 400 Teilnehmern verbesserten sich die Leute im Mittel von rund 67 auf 80 Prozent Erkennungsquote. „Die dort benutzten Audio-Fakes sind jedoch schon zwei bis fünf Jahre alt“, sagte Müller. Mittlerweile gebe es deutlich bessere.

Tech vs Tech: Um neuere Deepfakes zu erkennen, ist es daher nahezu unerlässlich, Software-Tools einzusetzen. Diese suchen nach technisch-forensischen Hinweisen, die darauf hindeuten können, dass KI zum Erstellen der Aufnahme genutzt wurde. Solche Tools sind zum Beispiel „AI or not“ oder der „Deepfake-o-Meter“ der Universität Buffalo. Auch KI-Firmen wie „Eleven Labs“ bieten Tools an, die gezielt überprüfen, ob Audios mit ihren firmeneigenen KI-Sprachgeneratoren erstellt wurden, wobei mitunter nur die erste Minute der Aufnahme analysiert wird. In der Praxis, bemängelte Deepfake-Experte Müller jedoch, seien Tools, die nur einen Anbieter erkennen, wenig praktikabel. „Deepfake Total“, das Tool des Fraunhofer AISEC, sei deshalb auf mehrere Anbieter trainiert – mit mehr als einer Million Audiospuren.

Absolute Sicherheit können auch KI-Tools nicht geben. Die Forscher am Fraunhofer AISEC haben die Audiospur des Videos, in dem Kate Middleton ihre Krebserkrankung öffentlich machte, durch ihr Programm laufen lassen. Fälschlicherweise wurde es als Fake deklariert. „Das Mikrofon war offenbar ungünstig positioniert, sodass der Wind reinpustete und ein konstantes Hintergrundgeräusch erzeugte“, sagte Müller. Frühere Deepfake-Tools hätten solche Geräusche, die klingen, als würde man neben einem Kühlschrank stehen, auch erzeugt. „Davon hat sich unser Programm offenbar täuschen lassen.“

Angriff der Nerds: Von Deepfakes können übrigens nicht nur Prominente oder Politiker betroffen sein, von denen es haufenweise Audiomaterial online gibt. Erst kürzlich wurde im US-Bundesstaat Maryland ein Highschool-Lehrer verhaftet. Er soll mit Hilfe von KI eine Audioaufnahme erstellt haben, in der sein Schulleiter rassistische Äußerungen macht. Der Schulleiter war daraufhin beurlaubt worden und hatte Morddrohungen erhalten.

Sollte Donald Trump nach der Wahl im November wieder ins Weiße Haus einziehen, könnte er einen berühmten und umstrittenen Berater an seiner Seite haben: Elon Musk. Das berichtet das Wall Street Journal und sieht darin einen weiteren Beleg, dass die beiden sich immer besser verstehen.

Das Recht auf Abtreibung war sehr konservativen Republikanern ein Dorn im Auge. Einem Bericht der Washington Post zufolge nehmen sich die Hardliner nun Verhütungsmittel vor. Während sie öffentlich bestreiten, diese einschränken zu wollen, verbreiten sich Falschinformationen darüber.

Wer an die letzte US-Präsidentschaftswahl denkt, erinnert sich an die Mär von der gestohlenen Wahl und an den Sturm auf das Kapitol. Anlass genug, sich besser besonders gegen Desinformation zu wappnen? Laut Mark Warner, dem Vorsitzenden des Geheimdienstausschusses des Senats, könnten die USA anfälliger für Desinformationen sein als noch bei den Wahlen 2020.

Russische Propagandisten sollen laut einem Microsoft-Bericht, auf den sich die New York Times bezieht, einen einstündigen Dokumentarfilm gedreht haben. Darin seien Nachrichtenberichte gefälscht und französische sowie amerikanische Geheimdienste imitiert worden. Mit den Fake-Warnungen sollen Menschen davon abgehalten werden, zu den Olympischen Spielen zu reisen.

Dankeschön: Redigiert von Florian Eder, produziert von Gabriel Rinaldi.