Das Problem hat zwei Richtungen
Generative Systeme verringern die Zeit und Fertigkeit, die nötig sind, um überzeugenden Text, Bilder, Audio und Video zu erzeugen. Falsche Medien könnten als echt akzeptiert werden. Zugleich könnte echte Evidenz als synthetisch abgetan werden — die „Lügner-Dividende”. Dieser zweite Effekt erfordert kein perfektes Deepfake; er erfordert nur genug öffentliches Bewusstsein für Fälschung, um Leugnung plausibel zu machen.
Dies ist ein gegenwärtiges Problem generativer KI, kein Beleg dafür, dass AGI existiert. Gegenwärtige Schäden umfassen Identitätsbetrug, nicht einvernehmliche intime Bilder, gefälschte politische Inhalte, gefälschte Beweise und billige Inhaltsflut. Für die Wiederherstellungsschritte im Haushalt nach einem erfolgreichen KI-gestützten Betrug siehe Was nach einem KI-gestützten Betrug zu tun ist. Individualisierte Überzeugung im Ausmaß der AGI ist eine Projektion, die von künftiger Fähigkeit, Zugang zu persönlichen Daten, Einsatz und menschlicher Anfälligkeit abhängt.
Was dokumentiert ist, und was nicht
Stimmklonung und Gesichtssynthese wurden bei Betrug und Belästigung eingesetzt. Politische Akteure haben synthetische Medien veröffentlicht oder verstärkt. Doch virale Beispiele offenbaren weder Verbreitung noch Nettoeffekt auf Wahlen. Menschen teilen falsche Inhalte aus sozialen und parteipolitischen Gründen, und konventionelle Bearbeitung, irreführende Bildunterschriften und authentisches, aus dem Kontext gerissenes Filmmaterial bleiben wirkungsvoll. Eine enge Fokussierung auf spektakuläre Deepfakes kann das häufigere Problem gewöhnlicher, durch Automatisierung beschleunigter Täuschung übersehen.
Auch Behauptungen zur Erkennung erfordern Vorsicht. Ein Detektor schätzt, ob Artefakte dem Material in seinen Trainingsdaten ähneln. Die Leistung kann nach Kompression, Zuschneiden, Übersetzung, Modell-Updates oder gezielter Umgehung sinken. Falsch-positive Ergebnisse können Journalisten, Künstlern und Menschen schaden, die Missbrauch dokumentieren. Das Fehlen eines Detektorsignals beweist keine Authentizität; ein positives Signal sollte eine Untersuchung einleiten, nicht beenden.
Herkunftsnachweis ist nützlich — zertifiziert aber keine Wahrheit
Der Standard der Coalition for Content Provenance and Authenticity (C2PA) erlaubt kompatiblen Werkzeugen, kryptografisch verifizierbare Informationen über Ursprung und Bearbeitungsgeschichte einer Datei anzuhängen. Ein gültiges Zertifikat kann zeigen, dass ein anerkanntes Gerät oder eine Organisation bestimmte Aussagen signiert hat und die signierten Daten nicht unbemerkt verändert wurden. Es kann eine Verwahrkette stützen.
C2PA selbst erklärt, dass Herkunftsnachweis allein nicht feststellen kann, dass ein Inhalt wahr, genau oder faktisch korrekt ist. Eine zertifizierte Kamera kann ein inszeniertes Ereignis aufnehmen; ein autorisierter Redakteur kann einen irreführenden Ausschnitt veröffentlichen; eine vertrauenswürdige Organisation kann einen Fehler machen. Auch die Identitätsunterstützung hängt vom verwendeten Zertifikat und Vertrauenssystem ab (C2PA Explainer, Spezifikation 2.2).
Zertifikate können auch bei authentischen Medien fehlen. Screenshots, Transcodierung, soziale Plattformen und das Entfernen von Metadaten können sie beseitigen. OpenAIs eigene Hilfedokumentation vermerkt, dass Screenshots C2PA-Metadaten entfernen können (OpenAI Help Center). Daher gilt:
- gültiger Herkunftsnachweis ist positive Evidenz über die Geschichte, nicht über die Wahrheit;
- ungültiger Herkunftsnachweis zeigt eine gebrochene oder veränderte Kette, nicht notwendigerweise eine gefälschte Szene;
- fehlender Herkunftsnachweis ist kein Beweis für Fälschung.
Der Standard wird von Technologie- und Medienorganisationen geprägt, die von seiner Einführung profitieren. Seine technische Dokumentation ist primäre Evidenz dafür, wie er funktioniert, nicht unabhängige Evidenz für Wirksamkeit im gesamten Informationsökosystem.
Offenlegungsrecht wird real
In der Europäischen Union galten die Transparenzpflichten nach Artikel 50 des KI-Gesetzes ab dem 2. August 2026. Anbieter bestimmter Systeme müssen maschinenlesbare Kennzeichnung erzeugter oder manipulierter Inhalte unterstützen, und Betreiber unterliegen Offenlegungspflichten für festgelegte Deepfakes und Text von öffentlichem Interesse, vorbehaltlich Ausnahmen. Die Durchsetzung ist zwischen nationalen Behörden und, in engeren Fällen, dem KI-Büro aufgeteilt. Die Europäische Kommission erklärt, dass Bußgelder für relevante Verstöße bis zu 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes erreichen können, mit Verhältnismäßigkeitsregeln (Europäische Kommission, Juli 2026).
In den Vereinigten Staaten trat der föderale TAKE IT DOWN Act im Mai 2025 in Kraft, der nicht einvernehmliche intime Bilder einschließlich erfasster digitaler Fälschungen behandelt und erfasste Plattformen verpflichtet, ein Melde- und Entfernungsverfahren zu betreiben. Es ist kein allgemeines Gesetz zur Authentizität von Deepfakes und sollte nicht so beschrieben werden. Wahl-, Verbraucherschutz-, Persönlichkeitsrechts- und einzelstaatliche Gesetze können ebenfalls anwendbar sein, mit unterschiedlichen Definitionen und Zuständigkeiten.
Kennzeichnungen helfen ehrlichen Nutzern und unterstützen die Durchsetzung, doch böswillige Akteure, die bereit sind, Betrug zu begehen, werden sich nicht zuverlässig selbst kennzeichnen. Offenlegung ist eine Ebene, nicht die Lösung.
Ein stärkerer Verifikationsablauf
Verifikation mit hohen Einsätzen sollte unabhängige Evidenz kombinieren:
- Das Original bewahren. Datei, URL, Zeitpunkt und umgebenden Beitrag vor erneuter Kompression oder Löschung speichern.
- Herkunftsnachweis prüfen. Gültige Zertifikate und die Vertrauenskette des Unterzeichners untersuchen, während Fehlen neutral behandelt wird.
- Die früheste Quelle finden. Schlüsselbilder rückwärts durchsuchen und den ersten dokumentierten Upload finden.
- Extern bestätigen. Nach unabhängigen Aufnahmen, offiziellen Aufzeichnungen, Zeugen, Wetter, Geografie und zeitgleicher Berichterstattung suchen.
- Die behauptete Quelle über einen separaten Kanal kontaktieren. Keine Kontaktdaten verwenden, die nur in der verdächtigen Nachricht enthalten sind.
- Motiv und Zeitpunkt bewerten. Dringlichkeit, Geheimhaltung, Zahlungsforderungen und emotionaler Druck sind Betrugssignale unabhängig von der Medienqualität.
Bei einem Anruf mit geklonter Familienstimme auflegen und die Person oder einen anderen Verwandten über eine bekannte Nummer anrufen. Eine private familiäre Verifikationsphrase kann helfen, sollte aber als kompromittiert gelten, wenn sie über einen ungeschützten Kanal gesprochen oder getippt wird. Bei Zahlungsanfragen im Unternehmenskontext sind eine Zweitfreigabe und eine Bestätigung über einen separaten Kanal erforderlich.
Journalismus, Gerichte und Archive
Redaktionen brauchen Ketten von der Erfassung bis zur Veröffentlichung, transparente Korrekturpraktiken und eine Möglichkeit, Originale zu bewahren. Gerichte brauchen authentifizierte Beweise, fachliche Untersuchung, wo angemessen, und Vorsicht sowohl bei gefälschten Beweisstücken als auch bei opportunistischen Behauptungen, echte Beweise seien gefälscht. Menschenrechtsermittler müssen Herkunftsnachweis mit der Sicherheit von Quellen abwägen; die Identität oder den Standort eines Fotografen preiszugeben kann Gefahr schaffen.
Archive stehen vor einer langfristigen Herausforderung: Formate, Zertifikate und Verifikationsinfrastruktur können veralten. Nur eine von einer Plattform gerenderte Kopie zu bewahren, kann im Original verfügbare Evidenz zerstören. Dauerhafte Integrität erfordert Originaldateien, Hashes, Zeitstempel, Kontextaufzeichnungen und Migrationspläne — nicht nur ein Abzeichen in einer Benutzeroberfläche.
Das Risiko für die gemeinsame Grundlage
Informationsintegrität ist nicht dasselbe wie Übereinstimmung. Gesunde Demokratien enthalten Konflikte über Werte und Interpretationen. Das Ziel ist, verlässliche Methoden zu bewahren, um grundlegende Ereignisse festzustellen: wer was gesagt hat, welches Dokument existierte, wie ein Bild produziert wurde und welche unabhängigen Quellen es bestätigen.
Sättigung durch synthetische Medien könnte Verifikationskosten erhöhen und etablierte Institutionen belohnen, die sich Authentifizierung leisten können. Das kann Qualität schützen, aber auch Zugangskontrolle konzentrieren. Offene Standards, Verifikationswerkzeuge im öffentlichen Interesse, lokaler Journalismus und transparente Methoden können den Zielkonflikt zwischen Authentizität und Pluralismus verringern.
Was fähigere Systeme hinzufügen könnten
Fähigere Agenten könnten viele gegenseitig konsistente Artefakte erzeugen, Menschen über Kanäle hinweg imitieren, Narrative lokalisieren, Botschaften testen und sich an die Reaktionen einer Person anpassen. Dieses Szenario ist plausibel, aber noch nicht als allgemeiner AGI-Effekt gemessen. Abwehrmaßnahmen müssten Menschen und Prozesse authentifizieren, verdächtige Kampagnen ratenbegrenzen, persönliche Daten schützen und menschliche Überprüfung bewahren, ohne universelle Identitätsüberwachung zu schaffen.
Die praktische Schlussfolgerung ist disziplinierte Skepsis statt universellem Unglauben. Man sollte Medien nicht allein deshalb vertrauen, weil sie echt aussehen, und sie nicht allein deshalb ablehnen, weil Synthese möglich ist. Herkunftsnachweis, Bestätigung, Quellengeschichte und Anreize schaffen zusammen eine stärkere faktische Grundlage als automatisierte Erkennung oder Intuition allein.