Provenance gegen Deepfakes & Desinformation | IT-Medienrecht

Kurzüberblick: Deepfakes sind kein reines Erkennungsproblem. Sie stellen vielmehr eine zentrale Frage nach Herkunftsnachweisen, Verifizierbarkeit und verlässlichen Verfahren dar. Blockchain-gestützte Nachweis- und Registermodelle können Content-Provenance – also die Frage, wer wann was wie erstellt oder verändert hat – dokumentieren, rechtsverbindlich einfrieren und beweissicher archivieren. Entscheidend ist dabei die enge Verbindung zu geltendem Recht, wie dem Urheber-, Persönlichkeits- und Wettbewerbsrecht.

Zusätzlich sind die DSA-Pflichten für Plattformen, eIDAS-Nachweise (qualifizierter Zeitstempel, qualifiziertes elektronisches Siegel) sowie die Transparenzvorgaben des AI Act für synthetische Inhalte von großer Bedeutung. Dieser Beitrag ordnet die verschiedenen Ansatzpunkte, Grenzen und einen belastbaren Implementierungsfahrplan ein.

Technik-Bausteine gegen Deepfakes: Provenance, Wasserzeichen, Signaturen und Blockchain-Register

Die effektive Bekämpfung von Deepfakes erfordert ein mehrschichtiges technisches Fundament. Dieses basiert auf der lückenlosen Dokumentation der Herkunft von Inhalten und deren fälschungssicherer Speicherung. Im Folgenden werden die wesentlichen Bausteine detailliert beleuchtet.

Provenance-Standards

Für die Praxis hat sich ein zweistufiges Modell bewährt. Erstens geht es um technische Provenance-Metadaten direkt am Asset, beispielsweise auf Basis von C2PA (Content Credentials). Zweitens ist ein fälschungsresistenter, extern verifizierbarer Nachweis in einem Register erforderlich.

C2PA spezifiziert, wie bei der Erstellung oder Bearbeitung von Bild, Video oder Audio ein signierter Provenance-„Manifest“-Block an die Datei gebunden wird. Dieser Block kann bei jeder Bearbeitung erweitert werden, wodurch eine lückenarm fortgeschriebene Veränderungshistorie entsteht. So lässt sich nachvollziehen: Wer hat wann welche Software für welche Verarbeitungsschritte genutzt?

Wasserzeichen

Unsichtbare Wasserzeichen markieren KI-Outputs, ohne die Nutzererfahrung zu beeinträchtigen. Beispiele hierfür sind Synthese-Wasserzeichen in Bild, Audio oder Video sowie probabilistische Token-Signaturen in Texten. Sie erleichtern die skalierte Detektion synthetischer Medien.

Allerdings sind Wasserzeichen technisch angreifbar. Starke Kompression, Cropping, Re-Sampling, Rauschen oder Übersetzungen können ihre Nachweisbarkeit schwächen. Die Robustheit steigt jedoch erheblich, wenn Wasserzeichen systematisch mit Provenance-Signaturen und Vertrauenskaskaden kombiniert werden.

Kryptografische Signaturen

Digitale Signaturen verbinden Provenance-Daten und Hashes des Assets mit einem eindeutig identifizierbaren Herausgeber. Dies kann beispielsweise ein Verlag, Sender, Kamerahersteller oder eine Behörde sein. Rechtlich sinnvoll ist die Nutzung anerkannter Vertrauensdienste.

Hierzu gehören qualifizierte elektronische Siegel für Organisationen oder qualifizierte Zeitstempel nach eIDAS. So wird aus einer bloßen „Technikspur“ ein Nachweis mit gesetzlich vermuteter Integrität und zeitlicher Richtigkeit.

Blockchain/Distributed Ledger

Eine Blockchain ist kein Selbstzweck, sondern entfaltet ihren Mehrwert als neutrales, unveränderliches Referenzregister. Hashes und Verifikationsdaten werden zeitnah „on-chain“ geschrieben, sodass jede spätere Manipulation an der Datei als Hash-Divergenz sofort auffällt.

Drei Muster haben sich in der Praxis bewährt:

• Ein öffentliches Ledger dient als globaler, auditierbarer Zeitanker.
• Ein erlaubnisbasiertes Unternehmens- oder Branchen-Ledger wird mit spezifischen Governance-Regeln betrieben.
• Hybride Modelle kombinieren einen öffentlichen Zeitanker mit einer privaten Detailablage.

Entscheidend für die Verbindlichkeit sind Zeit und Identität, nicht die ideologische Wahl zwischen „öffentlicher“ oder „privater Kette“.

Verifikation

Konsumenten- und Redaktions-Workflows benötigen einfache Prüfungen. Eine Datei wird hochgeladen oder eine URL eingereicht, woraufhin ein Tool das C2PA-Manifest liest. Es verifiziert die Signaturkette, gleicht den Hash mit der Blockchain ab und überprüft Zeitstempel sowie Siegel.

Das Ergebnis der Prüfung ist eindeutig: „belegt“, „belegt, aber nach Bearbeitung“ oder „nicht belegt“. Für Plattformen sind API-basierte Ingest-Checks sinnvoll, bevor viral verbreitete Inhalte algorithmisch „aufsteigen“.

Rechtlicher Rahmen für den Umgang mit Deepfakes: Urheber-, Persönlichkeitsrecht, DSA, AI Act und eIDAS

Der rechtliche Umgang mit Deepfakes ist vielschichtig und berührt verschiedene Rechtsgebiete. Von grundlegenden Rechten wie dem Urheber- und Persönlichkeitsrecht bis hin zu spezifischen Regulierungen wie dem Digital Services Act (DSA) und dem AI Act.

Urheberrecht

Deepfakes verletzen häufig Verwertungsrechte wie die Vervielfältigung und öffentliche Zugänglichmachung sowie Leistungsschutzrechte. Schranken wie Zitat oder Parodie greifen hier nur eng. Provenance hilft bei der Beurteilung auf zweierlei Weise.

• Sie legitimiert die eigene Distribution mit einer dokumentierten Rechtekette.
• Sie entkräftet unberechtigte Takedown-Forderungen, wenn Manipulationsketten nachweisbar sind.

Für die Vertragsgestaltung ist es entscheidend, Rechte- und Bearbeitungsklauseln klar zu regeln. Dies beinhaltet KI-Bearbeitungen, Remixe und Trainingsdaten. Ebenso müssen Beweispflichten und die Protokollierung festgehalten werden.

Persönlichkeitsrecht und KUG

Nicht einwilligte Deepfakes können das allgemeine Persönlichkeitsrecht und das Recht am eigenen Bild (§§ 22 ff. KUG) verletzen. Provenance erleichtert die schnelle Abgrenzung. Ist ein Video nachweisbar synthetisch erzeugt, verschiebt sich die rechtliche Bewertung vom Bildnisrecht zu einer Persönlichkeitsverletzung durch Manipulation.

Reputations- und Unterlassungsansprüche bleiben dabei unberührt. Nachweise beschleunigen die notwendigen Maßnahmen und die Rechtsdurchsetzung. Das Thema der digitale Unversehrtheit gewinnt in diesem Kontext zunehmend an Bedeutung.

DSA-Pflichten für Plattformen

Sehr große Plattformen und VLOPs (Very Large Online Platforms) müssen systemische Risiken jährlich bewerten und wirksam mindern. Dazu gehören Desinformation und manipulative Inhalte. Provenance- und Label-Signale sind geeignete Mitigations-Bausteine. Upload-Filter allein reichen nicht aus.

Transparenz- und Herkunftsnachweise unterstützen Beschwerde- und Einstufungsprozesse. Sie verringern Over- und Underblocking und erhöhen die Auditierbarkeit. Für Plattformbetreiber bietet unser Beitrag zum Digital Services Act (DSA) weitere wichtige Informationen.

AI Act-Transparenz

Für synthetische oder manipulierte Medien gelten nach dem AI Act Transparenzpflichten. Betroffene müssen erkennbar informiert werden, dass Inhalte künstlich erzeugt oder verändert sind. Bei General-Purpose-Modellen kommen gesonderte Copyright-Compliance- und Dokumentationspflichten hinzu. Dies betrifft auch die Frage: KI-generierte Inhalte: Wem gehören die Rechte?

Für Produkte empfiehlt sich daher ein standardisiertes „Synthetic Content“-Signal in Metadaten und der Benutzeroberfläche. Ideal ist eine doppelte Absicherung: Wasserzeichen auf Output-Ebene und ein Provenance-/Signatur-Nachweis mit Zeitanker.

eIDAS, qualifizierte Nachweise und elektronische Ledger

Qualifizierte elektronische Zeitstempel genießen die gesetzliche Vermutung der zeitlichen Richtigkeit und Datenintegrität. Qualifizierte elektronische Siegel begründen die Vermutung von Integrität und korrekter Herkunft einer Organisation. In der konsolidierten eIDAS-Fassung werden elektronische Ledger zudem als rechtlich relevante Beweis-Infrastruktur stärker adressiert.

Für qualifizierte elektronische Ledger ist eine Vermutung der korrekten, eindeutigen chronologischen Ordnung vorgesehen. Für Medienhäuser, Behörden oder Plattformen kann dies die Brücke zwischen Technikstandard (C2PA) und gerichtsfestem Beweis bilden.

Beweis- und Prozessrecht: Von der Technikspur zum belastbaren Beweismittel

Im juristischen Kontext muss eine technische Nachweiskette so aufbereitet sein, dass sie vor Gericht Bestand hat. Dies erfordert eine präzise Dokumentation und die Einhaltung rechtlicher Standards.

Beweiswert

1. Datei-Hash
2. Signiertes Provenance-Manifest
3. Qualifizierter Zeitstempel
4. Gegebenenfalls ein qualifiziertes elektronisches Siegel einer identifizierten Organisation

1. Datei-Hash
2. Signiertes Provenance-Manifest
3. Qualifizierter Zeitstempel
4. Gegebenenfalls ein qualifiziertes elektronisches Siegel einer identifizierten Organisation

So entsteht ein mehrschichtiger Beweis, der folgende Fragen beantworten kann: Wer hat die Aufnahme erstellt? Wer hat sie bearbeitet? Wann wurde sie veröffentlicht? Welche Bearbeitungen erfolgten? Wurde die Datei seitdem verändert?

Zivilprozessuale Einordnung

In der Praxis führt der Weg über die freie Beweiswürdigung. Qualifizierte eIDAS-Nachweise genießen gesetzliche Vermutungen. Sie können zwar widerlegt werden, heben aber die Darlegungs- und Beweislast der Gegenseite an.

Für Massennachweise, wie Tausende redaktionelle Fotos oder Clips, empfiehlt sich eine Standard Operating Procedure. Dazu gehören fortlaufende Signatur- und Zeitstempel-Pipelines, revisionssichere Logs, Notfall-Key-Rotation und die Dokumentation der Tool-Versionen. Notariats- oder Sachverständigenbestätigungen sind für sensible Fälle eine sinnvolle Beweissicherung, aber nicht in jedem Fall erforderlich.

Kompromittierte Schlüssel und Chain-Forks

Jede Signaturkette ist nur so stark wie ihr Schlüsselmanagement. Ein kompromittierter privater Schlüssel kann die Provenance ungültig machen. Daher sind folgende Maßnahmen essenziell:

• HSM-basierte Schlüsselverwaltung
• Rollenbasierte Freigaben
• Multi-Sig für besonders vertrauensrelevante Schritte
• CRLs/OCSP-Mechanismen für Sperrlisten
• Schnelle Schlüsselrotation

Bei öffentlichen Blockchains sind Fork-Szenarien und die Finalität (Bestätigungen) in Beweisnotizen zu dokumentieren. Für tiefergehende Informationen zu Blockchains und rechtlichen Aspekten bietet unser Beitrag zur Blockchain-Strategie der Bundesregierung weitere Einblicke.

Implementierung 2025: Fahrplan für Medien, Plattformen, Marken und Behörden

Die Einführung eines robusten Systems zur Content-Authentizität erfordert einen klaren Fahrplan und die Koordination verschiedener Akteure. Hier sind die wesentlichen Schritte für eine erfolgreiche Implementierung im Jahr 2025.

Governance

Klare Verantwortlichkeiten müssen definiert werden: Wer signiert? Wer versieht mit Zeitstempel? Wer schreibt on-chain? Wer reviewt Beanstandungen? Wer stellt Dritt-Zugänge für Faktenchecker bereit? Richtlinien für Aufnahmegeräte, Redaktionssysteme und Release-Pipelines sind festzulegen. Schulungen sind erforderlich, damit Redaktionen Provenance richtig interpretieren können, beispielsweise dass „kein Manifest“ nicht automatisch „Fake“, sondern lediglich „unbelegt“ bedeutet.

Technikstack

1. Tool-Auswahl: Aufnahme- und Bearbeitungstools mit C2PA-Support auswählen und standardisierte Signaturprofile der Organisation hinterlegen.
2. Automatisierung: Einen automatischen Hash-/Sign-/Timestamp-Lauf beim Export implementieren. „First publish on chain“ mit Transaktions-ID ins CMS rückschreiben.
3. Registries/Resolver: Prüflinks und öffentliche Prüfdienste betreiben, die Signaturkette und den Chain-Hash belegen.
4. Wasserzeichen: Wasserzeichen aktivieren (wo verfügbar) und in die Qualitätssicherung (QA) aufnehmen. Die Robustheit muss regelmäßig getestet werden (Kompression, Cropping, Re-Encoding).
5. Schnittstellen: Schnittstellen zu Plattformen und Faktencheck-Netzwerken bereitstellen, um Provenance-Signale als Ranking- und Vertrauensindiz nutzbar zu machen.

Plattform-Integration

Plattformen können Provenance-Signale im Upload-Prozess prüfen und Inhalte mit belegter Herkunft bevorzugt behandeln. Manipulationsverdächtige Uploads werden in Review-Queues geleitet. „Synthetic“-Hinweise sollten prominent angezeigt werden. Bei Massenereignissen wie Wahlen oder Krisen können automatisch strengere Prüfprofile aktiviert werden.

DSA-Risiko-Assessments dokumentieren, warum welche Mitigationsmaßnahme (Provenance-Check, Label, Dämpfung der Reichweite, Kontext-Panels) gewählt wurde und wie Grundrechte gewahrt bleiben. Dies ist auch relevant für die rechtlichen Grenzen der KI-Moderation.

Verträge

Mit Produzenten, Agenturen und Influencern sollten C2PA-/Signatur-Pflichten, Wasserzeichen-Policies, eIDAS-Zeitstempel sowie die On-Chain-Registrierung vertraglich festgelegt werden. Für Plattform-AGB empfehlen sich Regelungen, die das Einreichen manipulativer Deepfakes untersagen. Sie sollten die Beistellung korrekter Provenance fördern und Sanktionen transparent machen. Serviceverträge mit Tool-Anbietern müssen Audit-, Security- und Interop-Klauseln enthalten.

Datenschutz

Provenance kann personenbezogene Daten enthalten, wie Geräte-IDs, Standort oder Ersteller-IDs. Daher gilt es, die Prinzipien der Datenminimierung, Zweckbindung und Pseudonymisierung zu beachten. Für redaktionelle Kontexte sind journalistische Ausnahmen zu berücksichtigen; für behördliche Nutzung bestehen Spezialnormen.

Ein Transparency-Layer für Betroffene und klare Aufbewahrungsfristen sind einzuplanen. Weitere Informationen zu diesem Thema finden Sie in unserem Beitrag zu den Neuerungen im Datenschutzrecht.

Grenzen, Angriffsflächen und Fehlanreize im Umgang mit Deepfakes

Obwohl Provenance-Systeme robust sind, gibt es technische Grenzen, Schwachstellen im Ökosystem und potenzielle Fehlanreize. Diese müssen bei der Implementierung und im laufenden Betrieb berücksichtigt werden.

Technische Grenzen

Wasserzeichen lassen sich abschwächen oder entfernen. C2PA-Metadaten können beim Re-Encoding verloren gehen. Hash-Vergleiche scheitern bei kleinsten Änderungen, wenn keine robusten Perzeptionshashes eingesetzt werden. Künstliche „Provenance-Fälschungen“ sind möglich, wenn Angreifer kompromittierte Schlüssel verwenden oder vor dem ersten Anchoring einen Fake-Workflow aufbauen.

Ökosystemgrenzen

Provenance nützt nur, wenn sie verbreitet verifiziert wird. Fehlende Endgeräte- und Plattform-Unterstützung bremst die Akzeptanz. Es braucht interoperable Standards, breite Hersteller-Integration (Kameras, Smartphones, Edit-Software) und neutrale, vertrauenswürdige Verifikationsdienste. Einseitige, proprietäre Lösungen schaffen Lock-in-Effekte und unterminieren die Glaubwürdigkeit.

Governance-Lücken

Ohne eine einheitliche Label- und Provenance-Semantik droht ein „Siegel-Wildwuchs“. Rechtlich besteht ein Risiko selektiver oder diskriminierender Moderation. Abhilfe schaffen transparente Richtlinien, nachvollziehbare Review-Prozesse und dokumentierte Grundrechtsabwägungen. Für Hochrisiko-Phasen, beispielsweise Wahlen, sollten unabhängige Audits und externe Beobachter vorgesehen werden.

Wirtschaftliche Fehlanreize

Wenn Reichweite ausschließlich an „belegte Provenance“ geknüpft wird, geraten investigative oder sensible Inhalte ohne technische Nachweise ins Hintertreffen. Plattformen dürfen deshalb „unbelegt“ nicht automatisch abwerten, sondern müssen zusätzlich Kontext-Module und faktische Gegenbeweise zulassen.

Praxisleitfaden: In acht Schritten zu belastbarer Content-Authentizität

Die Einführung eines effektiven Systems zur Sicherstellung der Content-Authentizität kann in acht Schritten erfolgen. Dieser Leitfaden bietet eine strukturierte Vorgehensweise.

1. Zielbild definieren: Welcher Anteil der Inhalte soll mit Provenance veröffentlicht werden? Welche Produktflächen zeigen das Label?
2. Geräte und Tools auswählen: C2PA-fähige Kameras/Apps, Signaturprofile und HSM-Stützung identifizieren.
3. Signatur- und Zeitstempel-Pipelines automatisieren: Qualifizierte Trust-Services einbinden.
4. On-Chain-Anker wählen: Einen öffentlichen Zeitanker in Kombination mit einem internen Ledger nutzen und Transaktions-IDs ins CMS zurückschreiben.
5. Verifikation bereitstellen: Interne Qualitätssicherung, öffentliche Prüfseite und API für Partner einrichten.
6. Wasserzeichen ergänzen: Robustheit laufend messen und Kombination mit Detektoren für nicht belegte Inhalte gewährleisten.
7. Compliance dokumentieren: DSA-, AI-Act- und Datenschutz-Compliance umfassend dokumentieren und jährliche Reviews mit Audits durchführen.
8. Incident-Response vorbereiten: Pläne für Key-Kompromittierung, Korrekturen im Manifest, Widerruf/Sperrlisten und Kommunikationsstrategien entwickeln.

Fazit

Die Blockchain allein löst das Problem der Deepfakes nicht. Ihre volle Wirkung entfaltet sich erst in einem Verbund aus Provenance-Standards, Signaturen, Zeitstempeln, Wasserzeichen, Plattform-Prozessen und klaren rechtlichen Pflichten. Wer 2025 auf C2PA-Manifeste, eIDAS-gestützte Nachweise und ein nachvollziehbares On-Chain-Register setzt, verbessert den Beweiswert, die Moderationsqualität und die Vertrauenswürdigkeit von Inhalten, ohne legitime Inhalte zu ersticken.

Der Schlüssel liegt in der Interoperabilität: Ein Technologiemix ist erforderlich, der verifiziert werden kann, rechtlich anschlussfähig ist und in Redaktionen wie auf Plattformen tatsächlich genutzt wird. Dies ist entscheidend, um den Herausforderungen durch Deepfakes wirksam zu begegnen und die digitale Glaubwürdigkeit zu sichern.