Modul 6 · KI verstehen
Deepfakes & Desinformation
Wie KI Medien fälscht, warum das weniger gefährlich ist als gedacht — und woran die echte Bedrohung besteht.
← → Navigieren · ESC zurück zur Übersicht
Einstieg
Deepfakes sind nicht das Hauptproblem.
Das klingt kontraintuitiv — gerade weil Deepfakes so faszinierend und verstörend wirken. Aber die Forschung sagt etwas anderes.
In der gesamten Wahl 2024 — USA, EU, UK, Indien — gab es zusammen gerade mal 215 Deepfakes als Wahldesinformation. Bekannte Falschvideo aber — Schnitte, Untertitel, manipulierte Screenshots — waren sieben Mal häufiger.
Die echte Gefahr ist nicht KI-generierte Inhalte. Es ist Vertrauenserosion. Der Gedanke: „Alles könnte manipuliert sein" — noch bevor es manipuliert wurde.
215 KI-Deepfakes
vs.
1.500+ Cheap Fakes
(Knight Institute, Columbia)
Teil 1
Was ist ein Deepfake?
Definition, Geschichte, Techniken — wie Computer machen können, dass eine Person etwas sagt oder tut, das sie nie getan hat.
Was ist ein Deepfake?
Definition
Deepfake = „deep learning" + „fake". Ein Video oder Audio, bei dem eine Person durch eine andere ersetzt wird — meist mit KI-Technologien, die Gesichter oder Stimmen so realistisch nachahmen, dass sie echt wirken.
Typen von Deepfakes
- Face-Swap: Gesicht einer Person in ein anderes Video austauschen
- Lip-Sync: Die Lippen einer Person werden anderen Worten angepasst
- Voice Clone: Die Stimme wird künstlich nachgeahmt (100+ Stunden Audio)
- Body Swap: Der ganze Körper wird ersetzt — schwieriger, seltener
- Generative Video: Video komplett neu synthetisiert (noch nicht perfekt)
Geschichte
- 2017: Erster bekannter Deepfake (Prominente in Pornografie)
- 2018–2019: Tools werden einfacher, massiver Hype
- 2020: Biden-Deepfake Video verbreitet sich (Wahlkampf)
- 2022–2024: Voice-Cloning wird praktikabel, Erkennungstechniken hinken hinterher
Techniken
GANs: Das Wettkampf-Konzept
Eine GAN (Generative Adversarial Network) ist ein Wettkampf zwischen zwei KI-Systemen:
- Generator: Versucht, realistische Fakes zu erstellen
- Discriminator: Versucht, Fakes von echten zu unterscheiden
- Der Effekt: Der Generator wird immer besser, weil der Discriminator ständig schummelt, immer besser zu erkennen
Das ist nicht spezifisch für Deepfakes — das ist ein fundamentales Konzept in generativer KI. GANs erzeugen auch Bilder, Kunstwerke, Musik.
Praxisbeispiel
Wenn die Realität fragwürdig wird
Dieses Video zeigt einen KI-Reporter, der die Nachrichten vorliest. Es sieht echt aus — aber es gibt keinen echten Menschen hinter dieser Stimme und diesem Gesicht. Ein Beispiel dafür, wie subtil Deepfakes bereits geworden sind.
ZDF Schule: KI-Reporter Johannes — Video zeigt synthetischen Moderator
Spiel: Echt oder Fake?
Kannst du echte von KI-generierten Gesichtern unterscheiden?
Schau dir diese vier Gesichter an. Zwei sind echt, zwei sind vollständig von KI generiert. Welche sind die Fakes?
Person 1
Echt oder Fake?
Person 2
Echt oder Fake?
Person 3
Echt oder Fake?
So erkennst du KI-generierte Bilder
Die Warnsignale
✓ Echtheit-Merkmale:
- Asymmetrische Gesichtszüge
- Falten, Poren, Hautunreinheiten
- Natürliche Augenreflexionen
- Realistische Haarstruktur mit Verwicklungen
- Realistische Ohrform
✗ KI-Alarm-Zeichen:
- Zu perfekt symmetrisches Gesicht
- Deformierte oder merkwürdige Ohren
- Zähne wirken „plastisch"
- Hintergrund hat seltsame Artefakte
- Haare fließen unnatürlich
Warnung 2024: Diese Tricks funktionieren bei modernen Modellen kaum noch. DALL-E 3, Midjourney v6 und Adobe Firefly generieren mittlerweile Bilder, die nicht mehr zu unterscheiden sind — selbst für Experten.
Selbst Testen
Real or Fake Challenge
Jetzt bist du dran! Besuche das Real or Fake Game und teste dein Wissen: Kannst du echte Videos von Deepfakes unterscheiden? Eine interaktive Herausforderung der Universität des Saarlandes.
Öffnet in neuem Fenster
Was dich erwartet:
- Videos ansehen (3–10 Sekunden)
- Entscheiden: Echt oder Deepfake?
- Punkte sammeln & Ranking
- Wissenschaftlich getestet & verifiziert
Warum spielen?
- Trainiere dein Auge für Deepfakes
- Lerne echte Fehler zu erkennen
- Vergleiche dich mit anderen Spielern
- Hilf der Forschung: Deine Daten werden anonym für KI-Sicherheitsforschung genutzt
Spoiler: Es ist schwerer als du denkst. Selbst Menschen mit viel Erfahrung liegen falsch. Das ist genau das Problem mit Deepfakes — wir sind biologisch nicht gut darin, synthetische Medien zu erkennen.
Teil 2
Die echte Gefahr
Nicht die Deepfakes selbst — sondern Vertrauenserosion und die neuen Formen der Desinformation, die nicht mal KI brauchen.
Wichtig
Cheap Fakes schlagen KI-Fakes
2024 US-, EU-, UK-, Indien-Wahlen
Schnitte aus dem Kontext, Untertitel dazufügen, alte Videos mit neuem Narrativ, Bilder mit KI-Filtern (aber nicht echte Synthetic Media).
Warum sind Cheap Fakes effektiver? Sie sind schneller, billiger und psychologisch überzeugender. Ein Video-Schnitt eines Politikers, der "dumm" wirkt, ist überzeugender als ein technisch perfektes KI-Deepfake — weil das Gehirn das Reale vermutet.
Psychologische Gefahr
Die Lügner-Dividende
Ein Konzept von Brennan Center for Justice: Sobald Menschen wissen, dass Deepfakes möglich sind, leugnen sie auch echte Videos.
Das Problem
- Eine echte Aussage wird geleakt
- Person sagt: "Das ist ein Deepfake"
- Publikum weiß nicht mehr: Deepfake oder echt?
- Vertrauen erodiert, egal ob Video echt war
Was funktioniert
- Technische Analyse mit Experten vorab
- Medienkompetenz statt Verbot
- Transparente Zertifizierung von echten Videos
- Schnelle, sachliche Richtigstellung
Das ist kein KI-Problem — das ist ein Informations-Problem. Es braucht nicht mal Deepfakes: simple Tweets genügen um die Lügner-Dividende zu nutzen.
Fallstudie 2024
Der New Hampshire Biden Robocall
Januar 2024: Ein Robocall-Deepfake von Joe Biden wird an tausende Wähler versendet. Die Nachricht: "Wählt in der Vorwahl nicht ab — spart eure Stimmen für die Wahlen im November."
Die Anrufe waren technisch überzeugend. Aber: Sie hatten praktisch keine Auswirkung. New Hampshires Democratic Primary ging weiter wie geplant.
Warum? Weil die Leute bereits wussten, dass Biden die Vorwahl boykottierte. Das Video passte zu schon bekannten Fakten — es überzeugte nicht mehr, sondern weniger.
Fake Biden-Stimme
per Robocall
Gesetze schnell geändert (200+ Staaten). Aber: Kein Wahleffekt gemessen.
(Harvard Ash Center)
Fallstudien global
Wer wird mit Deepfakes angegriffen?
Die Daten zeigen ein klares Muster: Deepfakes werden nicht gleichmäßig eingesetzt. Bestimmte Gruppen werden viel häufiger als Ziele gewählt.
Frauenpolitiker
Werden disproportional mit Deepfake-Pornografie angegriffen — nicht Wahldesinformation, sondern sexuelle Herabwürdigung
Minderheiten
In USA: falsche Videos von Black Americans, die Trump unterstützen (in Wahrheit nicht)
Indien
50 Mio $ für KI-generierte Inhalte — teils Wahlwerbung, teils Hänseleien und Desinformation
Die Gefahr ist nicht "Deepfakes ersetzen alle Informationen" — die Gefahr ist zielgerichtete Angriffe auf spezifische Gruppen (oft Frauen, Minderheiten, Gegner).
Teil 3
Wie man Deepfakes erkennt
Techniken und Tricks — was Algorithmen sehen, und worauf Menschen achten sollten.
Techniken
Sichtbare Artefakte (noch)
Mit jedem neuen Modell werden Deepfakes überzeugender. Aber es gibt noch immer Anzeichen:
Bilder / Video
- Augen: reflektieren unterschiedlich (echte Augen haben Lichtreflexe, Fakes nicht konsistent)
- Zähne: werden oft pixelig oder verschoben
- Haare: wirken unrealistisch bei schneller Bewegung
- Übergänge: Haut trifft Ohren/Hals nicht natürlich
- Blinzeln: Menschen blinzeln ~ 15-20x pro Minute; Fakes vergessen das oft
Audio
- Atmen: Geklonte Stimmen vergessen Pausen zum Atmen
- Konsistenz: Datenqualität: geklonte Stimme klingt immer gleich
- Emotionale Schwankungen: werden selten ganz echt
- Lippen-Audio-Sync: Stimme und Lippenbewegung verzögert?
Mit neuesten Modellen (2024+) werden diese Artefakte kleiner. Automatische Detektion wird schwieriger. Das ist das "Rüstungsrennen".
Software-Tools
Was gibt es?
Eine Reihe von Erkennungstools existiert — aber ein wichtiger Hinweis: Keine ist zuverlässig zu 100%. Sie alle haben False Positives/Negatives.
Verfügbare Tools
- Reality Defender
- Sensity AI
- Optic
- InVID (für Journalisten)
- Deepware Scanner
Das Problem
- Funktionieren nur auf Daten, ähnlich den Trainingsdaten
- Falsch-positive bei echten Videos
- Erkennen nur bekannte Fake-Methoden
- Werden umgangen mit einfacher Modifikation
Besser: Kontext
- Passt das Video zu bekannten Fakten?
- Wer verbreitet es — Interesse dahinter?
- Gibt es Quellen / Belege?
- Ist es zu perfekt, zu emotional?
Das beste "Tool" zur Deepfake-Erkennung bleibt noch immer Medienkompetenz und kritisches Denken. Automatische Tools sind nützlich, aber nicht vollständig.
Teil 4
Was wird dagegen getan?
Gesetze, Technologie, Gesellschaft — wie reagieren Demokratien auf synthetische Medien?
Politik & Recht
Gesetzliche Maßnahmen 2024+
USA
- California 2024: "Defending Democracy from Deepfake Deception Act" — Platforms müssen KI-politische Inhalte in letzten 120 Tagen vor Wahlen blocken/labeln
- August 2025: Bundesgericht blockiert Teile des Gesetzes als zu restriktiv
- Robocall-Gesetze: Deepfake-Audio bei Wahlaufrufen jetzt bundesweit strafbar
EU
- AI Act 2024: Synthetische Medien müssen gekennzeichnet werden
- Digital Services Act: Platforms sind verantwortlich für Inhalte
- Urheberrecht: Biometrische Daten (Gesicht, Stimme) als Schutzgut
Die Herausforderung: Zu restriktive Gesetze können echte Satire / künstlerische Werke blocken. Zu lockere haben keine Auswirkung.
Technologie
Content Authenticity Initiative
Statt zu versuchen, Fakes zu erkennen — die Industrie zertifiziert echte Inhalte. Ein Standard ähnlich wie SSL für Websites.
Das Konzept: Jeder echte Foto / Video trägt digitale Signatur:
- Wann und womit wurde das Bild aufgenommen?
- Wer hat es geteilt / editiert?
- Wurde es AI-generiert oder gemischel?
- ABER: Die Kamera / das Gerät muss mitarbeiten — kein Handy, das vergangene Fotos authentifiziert
Adobe, Microsoft, BBC und andere entwickeln das. Problem: Es erfordert neue Hardware-Standards.
Nicht "Fake erkennen"
sondern
"Echt zertifizieren"
Ähnlich wie: Wir trauen Websites, die HTTPS haben.
Teil 5
Medienkompetenz in der synthetischen Welt
Was jeder Mensch wissen und überprüfen sollte — ohne Paranoia, ohne vollständiges Misstrauen.
Prakitsch
5 Leitfragen zum Video
Bevor du ein Video glaubst oder weitergibst:
- Quelle überprüfen: Kam es von einer etablierten Quelle oder ist der Ursprung unklar?
- Timing fragen: Passt es zu aktuellen Geschehnissen — oder zu unklar?
- Gegencheck: Berichten etablierte Medien über dieses Video? Falls nein, warum nicht?
- Emotionale Reaktion: Macht dich das Video sehr wütend / sehr froh? Das ist oft ein Signal, dass es manipulativ ist
- Absicht erkennen: Wer gewinnt, wenn dieses Video glaubt? (Politische Partei, Influencer, Marke?)
Das funktioniert auch für Cheap Fakes. Eigentlich: für alle verdächtigen Inhalte.
Psychologie
Voraubiologische Impfung gegen Fake-News
Ein Konzept aus der Psychologie: Wenn du von vornherein weißt, dass Fakes möglich sind, bist du weniger anfällig für sie.
Das klingt paradox — aber Studien zeigen: Wenn Menschen vorab lernen, wie Desinformation funktioniert, sind sie danach besser geschützt.
„Eine Std. Medienkompetenz-Training reduziert die Anfälligkeit für Fakes um ~20%."
Warum? Weil du die Techniken erkannt hast. Es ist wie Schach — nachdem du Eröffnungen gelernt hast, siehst du sie überall.
Voraus-Bildung = Schutz
Nicht Angst, sondern Verständnis.
Zusammenfassung
Was wir gelernt haben
- Definition: Deepfakes sind KI-generierte Videos / Audio, in denen Personen etwas sagen/tun, das sie nicht taten
- Techniken: GANs, Diffusion Models, Face-Swapping — ein Wettkampf zwischen Generator und Diskriminator
- Realität: 215 Deepfakes in Wahldesinformation 2024 — Cheap Fakes 7x häufiger
- Echte Gefahr: Vertrauenserosion ("Alles könnte gefakt sein") — nicht einzelne Videos
- Erkennung: Technische Artefakte sichtbar, aber werden besser versteckt — Tools begrenzt
- Schutz: Gesetze (California, EU AI Act), Technologie (Content Authenticity), Medienkompetenz
Deepfakes sind real und werden besser. Aber sie sind nicht die Apokalpyse — und die Antwort ist nicht Angst, sondern Verständnis.
Modul 6 abgeschlossen
Medienvertrauen
in unsicheren Zeiten
Deepfakes werden schlagkräftiger. Aber die Antwort ist nicht Blindheit — es ist Verständnis. Nicht jedes Video ist ein Betrug. Nicht jedes verdächtige Video ist ein Deepfake. Wir müssen lernen, zu unterscheiden.