KI-Training Nutzerdaten: Opt-out, DSGVO, AI Act | IT-Medienrecht

Rechtskonformes KI-Training: Urheberrecht, DSGVO und AI Act im Überblick

Generative KI benötigt Daten. Beim Training dieser Modelle treffen drei zentrale Rechtsgebiete unmittelbar aufeinander: das Urheberrecht, die DSGVO und der AI Act.

Es geht um die Balance zwischen TDM-Ausnahmen und Opt-out-Mechanismen im Urheberrecht, sowie Rechtsgrundlagen, Informationspflichten und Betroffenenrechten nach der DSGVO. Der AI Act ergänzt dies durch Transparenz- und Copyright-Compliance-Anforderungen für General-Purpose-Modelle. Ein sauberer Aufbau aus Rechtsgrundlagen, vertraglichen Zusicherungen, technischen Opt-out-Mechanismen und klaren Prozessen für Einwände und Löschungen ist entscheidend. Dieser Leitfaden bündelt die praxistauglichen Schritte mit Fokus auf deutsche und europäische Regeln.

Rechtsrahmen kompakt: TDM-Ausnahmen, Opt-out und die deutsche Umsetzung

Der unionsrechtliche Dreh- und Angelpunkt für das Training auf urheberrechtlich geschützten Inhalten sind die TDM-Ausnahmen der Richtlinie (EU) 2019/790 (DSM). Artikel 3 privilegiert Text- und Data-Mining durch Forschungseinrichtungen oder Kulturerbeeinrichtungen bei rechtmäßigem Zugang, ohne Widerspruchsmöglichkeit der Rechteinhaber. Artikel 4 eröffnet eine allgemeine TDM-Schranke für weitere Zwecke, einschließlich kommerziellen KI-Trainings. Dies gilt jedoch nur, soweit Rechteinhaber die Nutzung nicht „in geeigneter Form“ ausdrücklich vorbehalten (Opt-out, online idealerweise maschinenlesbar).

In Deutschland sind diese Regeln als § 60d UrhG (Forschung) und § 44b UrhG (allgemeines TDM mit Opt-out) umgesetzt. Für die Praxis bedeutet das:

• Forschungstraining mit rechtmäßigem Zugang fällt regelmäßig in § 60d UrhG.
• Kommerzielles Training kann auf § 44b UrhG gestützt werden. Voraussetzung ist, dass kein wirksames Opt-out gesetzt wurde und der Zugang rechtmäßig war.
• Zusätzlich können Datenbankrechte betroffen sein. Die TDM-Ausnahmen adressieren auch Extraktionen aus geschützten Datenbanken.

Das Opt-out ist insbesondere online maschinenlesbar auszudrücken. Diskussionen und erste Entscheidungen in Deutschland konkretisieren, dass „maschinenlesbar“ nicht automatisch klassische robots.txt-Verbote meint. Vielmehr etabliert sich eine spezifische TDM-Reservation, die klar und technisch auswertbar signalisiert, dass TDM-Nutzungen vorbehalten werden.

Erste Gerichtsentscheidungen haben zudem gezeigt: Die Rechtmäßigkeit des Zugriffs, die Einhaltung von Opt-outs und die saubere Dokumentation sind haftungsrelevant. Dies gilt bereits bei der Datensatzbildung für das Training, nicht erst beim eigentlichen Modelltraining. Die Sensibilisierung für diese Aspekte ist entscheidend, um Urheberrechtsrisiken zu minimieren.

DSGVO beim Web- und Nutzerdaten-Training: Rechtsgrundlagen, Grenzen, Pflichten

KI-Training auf personenbezogenen Daten benötigt eine tragfähige Rechtsgrundlage nach Art. 6 DSGVO. Die Debatte dreht sich vor allem um berechtigte Interessen (Art. 6 Abs. 1 lit. f). Datenschutzaufsichten betonen: Berechtigte Interessen können denkbar sein, verlangen aber einen strengen Drei-Stufen-Test. Zudem sind Sicherheits- und Transparenzmaßnahmen, eine Interessenabwägung, Opt-Out-Mechanismen und eine nachvollziehbare Accountability erforderlich. Für besondere Kategorien (Art. 9 DSGVO) ist der Maßstab erheblich höher; eine Stützung auf berechtigte Interessen scheidet aus. Hier bedarf es beispielsweise einer ausdrücklichen Einwilligung oder einer anderen speziellen Ausnahme.

Weitere Eckpunkte im Rahmen der DSGVO sind:

• Transparenz und Informationspflichten (Art. 13/14 DSGVO): Auch bei Web-Scraping sind Informationspflichten grundsätzlich zu erfüllen; Ausnahmen müssen begründet und dokumentiert werden.
• Betroffenenrechte: Dies umfasst das Widerspruchsrecht (Art. 21), das Löschrecht (Art. 17) sowie das Recht auf Berichtigung oder Anmerkung zur Richtigkeit. Diese Rechte beziehen sich auch auf Trainingsdatensätze und unter Umständen auf Modelle.
• Datenminimierung und Speicherbegrenzung (Art. 5 Abs. 1 lit. c/e): Hierzu gehören das Kuratieren von Korpora, das Filtern sensibler Felder, das Begrenzen der Aufbewahrungsdauer sowie das Vorhalten von Löschroutinen und „Do-Not-Train“-Sperrlisten.
• Risikosteuerung und DPIA (Art. 35): Für breit angelegte Scraping- und Trainingsprojekte ist eine Datenschutz-Folgenabschätzung (DPIA) regelmäßig erforderlich. Die Ergebnisse sollten sich in Policies und technischen Maßnahmen widerspiegeln.

Europäische und nationale Behörden haben 2024/2025 Leitlinien und Task-Force-Berichte veröffentlicht, die den Rahmen schärfen. Die EDPB adressiert Transparenz, Richtigkeitsrisiken und Rechtsgrundlagen. Die CNIL erläutert Bedingungen, unter denen sich Training auf berechtigte Interessen stützen lässt, einschließlich technischer und organisatorischer Schutzmaßnahmen. Die ICO (UK) konkretisiert die Anforderungen an Web-Scraping und Legitimate-Interest-Tests. Für die Praxis ist entscheidend, diese Vorgaben nachweisbar in Governance und Technik zu verankern.

AI Act und Copyright-Compliance: Pflichten für General-Purpose-Modelle

Der AI Act ist seit Juli 2024 im Amtsblatt der EU veröffentlicht; zentrale Teile greifen stufenweise bis 2026. Für General-Purpose-AI-Modelle (GPAI) normiert der Rechtsrahmen Transparenz- und Copyright-Compliance-Pflichten. Anbieter von GPAI-Modellen müssen unter anderem eine Policy zur Beachtung des EU-Urheberrechts vorhalten. Zudem ist eine hinreichend detaillierte Zusammenfassung der zum Training verwendeten Inhalte zu veröffentlichen, unabhängig davon, wo das Training stattfand.

Parallel entsteht ein GPAI-Code of Practice (2025) als freiwilliger Anknüpfungspunkt, um die Pflichten – einschließlich Copyright-Respekt und Dokumentation – praktisch umzusetzen. Konsequenz: Rechte- und Daten-Compliance werden prüf- und nachweispflichtig, nicht nur „Best Efforts“.

Opt-out in der Praxis: maschinenlesbare Vorbehalte und wie KI-Teams sie beachten

Die DSM-Richtlinie verlangt für online verfügbare Inhalte einen maschinenlesbaren Vorbehalt. In der Praxis etabliert sich das TDM-Reservation Protocol (TDMRep) als dedizierter, auswertbarer Standard. Es kann unter anderem per HTTP-Header oder TDM-Datei signalisieren, dass TDM-Nutzungen vorbehalten sind, und optional auf Lizenzpfade verweisen.

Daneben kursieren inoffizielle Signale, zum Beispiel „noai“-Meta- oder robots-Tags. Diese sind jedoch nicht harmonisiert und werden inkonsistent beachtet. Wer auf § 44b UrhG setzt, sollte in der Pipeline konsequent TDM-Signale parsen und belegen, dass Opt-outs respektiert werden – andernfalls drohen Urheberrechtsrisiken. Öffentliche Stellen (Rat/Kommission) treiben parallel Standards und Registry-Überlegungen voran, um das Opt-out europaweit interoperabel zu machen.

Technische Mindestmaßnahmen für Scraper und Loader

• Parser für tdm-reservation und – soweit vorhanden – tdm-policy (Fallback: robuste robots-Ehre allein genügt nicht).
• Positiv-/Negativlisten und Blocker gegen bekannte AI-Crawler-Sperren und TDM-Vorbehalte.
• Evidenzspeicher: Für jede Quelle sind Zeitpunkt, HTTP-Header/Datei-Snapshot, Status des Opt-outs und der Lizenzpfad sowie der rechtmäßige Zugang zu dokumentieren.
• Re-Crawl-Regeln: TDM-Opt-outs können nachträglich gesetzt werden; Reconcile-Läufe sind einzuplanen.
• Lizenz-Router: Wenn ein Vorbehalt gesetzt ist, den Lizenzweg anstoßen (z. B. Rechte-Contact-URL aus TDM-Policy).

Urheberrecht und DSGVO zusammen denken: Vier typische Stolpersteine

• Rechtmäßiger Zugang ist kein Freifahrtschein: Kostenlos zugängliche Inhalte können urheberrechtlich frei abrufbar sein, aber datenschutzrechtlich bleibt eine Rechtsgrundlage erforderlich.
• Spezialkategorien in Web-Daten: Sensible Daten wie Gesundheitsdaten erfordern Filter und Exklusion, da meist keine tragfähige Ausnahme für das Training ohne Einwilligung besteht.
• Datenbankrechte werden unterschätzt: Massenhafte Extraktionen aus Sui-generis-Datenbanken können das § 87b UrhG-Recht verletzen, wenn kein TDM-Privileg greift.
• Nachträgliche Opt-outs und Betroffenenrechte: Diese betreffen nicht nur Datensätze, sondern teils auch Modellartefakte, was belastbare Prozesse für Suppression und Auskunft erfordert.

• Rechtmäßiger Zugang ist kein Freifahrtschein. Kostenlos zugängliche Inhalte können urheberrechtlich frei abrufbar sein, aber datenschutzrechtlich bleibt eine Rechtsgrundlage erforderlich. Ohne tragfähige Art. 6-Basis und ohne transparente Information wird Training auf personenbezogenen Daten riskant – selbst wenn kein Opt-out gesetzt ist.
• Spezialkategorien in Web-Daten schleichen sich in großem Stil in Korpora ein. Dies betrifft beispielsweise Gesundheitsdaten, politische Meinungen oder Religionszugehörigkeit. Für das Training existiert regelmäßig keine tragfähige Ausnahme ohne Einwilligung oder engste Spezialtatbestände. Filter und Exklusion sind daher Pflicht, ebenso Sperr-Listen für sensible Entitäten.
• Datenbankrechte werden unterschätzt. Viele „offene“ Sammlungen sind Sui-generis-Datenbanken. Massenhafte Extraktionen können das § 87b UrhG-Recht verletzen, wenn kein TDM-Privileg greift.
• Nachträgliche Opt-outs und Betroffenenrechte betreffen nicht nur Datensätze, sondern teils auch Modellartefakte. Dies schließt beispielsweise Vektoren oder Embeddings ein. Nicht immer besteht ein „Löschanspruch im Modell“, aber belastbare Prozesse für Suppression, Fine-Tuning-Korrekturen und Auskunft sind gefordert. Diese werden von Aufsichtsbehörden zunehmend eingefordert. (Gesetze im Internet, EDPB)

Praxisfahrplan: Governance, Verträge, Technik

Governance und Dokumentation

• Policy-Stack: Erstellung einer TDM-Compliance-Policy (Opt-out-Respekt, Lizenzpfade), einer Copyright-Policy (Werks-/Leistungsschutzrechte, Datenbankrechte), einer Privacy-Policy (Art. 6/9, Transparenz, Betroffenenrechte) und einer Retention-Policy für Korpora/Artefakte.
• Rollen: Klare Zuweisung von Verantwortlichkeiten für Data Sourcing, Rights & Privacy Counsel, Dataset Steward, Security/ML-Ops und Audit.
• DPIA und Legitimate-Interest-Abwägung mit konkreten Safeguards (Pseudonymisierung, Blacklists, Sensitive-Data-Filter, Rate-Limits, Zugriffskontrollen, Zweckbindung).
• Transparenz: Implementierung von Layered Notices, Model Cards/Datasheets. Für GPAI-Modelle ist eine Trainingsinhalts-Zusammenfassung gemäß AI Act erforderlich.

Verträge und Rechtekette

• Content-Quellen: Klare Lizenzklauseln zu TDM-Erlaubnis/-Beschränkung, Zweckbindung für „Training/Fine-Tuning/Evaluierung“, Festlegung von Gebieten und Laufzeiten, Vergütung, Audit/Rechtekette und No-Scrape-Gewährleistung.
• API/Partner: Zusicherung einer rechtmäßigen Bereitstellung, keine verletzten Opt-outs, keine besonderen Kategorien ohne Grundlage, Freistellung und Audit-Rechte.
• Nutzerinhalte (SaaS/UGC): Klare AGB-Erlaubnis oder Default No-Training mit granularen Opt-ins, respektive Opt-out in Privacy-Settings. Explizite Regeln für feingranulare Zwecke, z. B. „nur Qualitätsverbesserung“ oder „kein Drittmodell-Training“.
• Datenlieferanten (Annotation, Synthesis): Vereinbarungen zu Geheimhaltung, Urheber-/Leistungsschutz, personenbezogenen Daten, Bias-/Qualitäts-KPIs und Rechte an Labels.

Technik und Prozesse

• Crawler/Loader respektieren tdm-reservation; Parser sind verpflichtend in die Pipeline zu integrieren.
• Sensitive-Data-Filter sind vor Aufnahme in Trainingskorpora einzusetzen; dies umfasst Hash/Heuristik/Regeln und menschliche Stichproben.
• Betroffenenrechte: Eine Such- und Suppressionsfunktion über Korpus und Artefakte ist einzurichten. Zudem sind dokumentierte Widerspruchs- und Löschprozesse zu etablieren, die für Trainings- vs. Evaluierungs-Sets und für Fine-Tuning-Adapter differenziert sind.
• Dataset-Provenance: Inhalte, Quellen-URL, Timestamp, Opt-out-Status, Lizenzpfad, Rechtsgrundlage sind zu dokumentieren. Die Unveränderlichkeit (z. B. WORM-Store) und ein Audit-Trail sind sicherzustellen.
• Model-Level-Kontrollen: Red-Team-Evaluation für personenbezogene Ausgaben, Prompt-Guards, Throttling und Output-Transparenzhinweise sind zu implementieren.
• Security by Design: Dies umfasst Zugriff/Keys, Segmentierung, Secret Management, Schutz vor Datenabflüssen und Poisoning sowie regelmäßige Audits.

Umsetzungsschritte für Produkt-Teams: „Legal by Architecture“

Korpus-Design für das KI-Training

• Erstes Sourcing nur aus Quellen ohne TDM-Vorbehalt beziehungsweise mit Lizenz; technische Whitelists.
• Dediziertes Forschungs-Korpus getrennt von kommerziellem Korpus; § 60d-Nutzungen dürfen nicht ungeprüft in kommerzielle Pfade überführt werden.
• Rezidives Sampling vermeiden (wiederholte Ziehungen sensibler Inhalte), um Overfit auf personenbezogene Muster zu reduzieren.

Transparenz und Nutzersteuerung

• Bei Produkten mit Nutzer-Uploads sind granulare Einwilligungen/Opt-ins zum Training zu implementieren; der Default sollte restriktiv sein. Eine separate Einwilligung für besondere Daten ist erforderlich.
• Informationslayer für Scraping-Quellen und Betroffenenrechte; leicht auffindbare „Do-Not-Train“-Schaltflächen.

Evaluation und Betrieb

• Richtigkeit/Accuracy bei personenbeziehbaren Ausgaben adressieren; EDPB hebt Genauigkeitsanforderungen hervor.
• Inhaltszusammenfassung (AI Act) sorgfältig kuratieren: Kategorien, Quellenklassen, Lizenzwege, Opt-out-Respekt – ohne Geschäftsgeheimnisse zu entblößen.
• Incident-Response für Rechte-/Datenschutzverstöße: Einrichtung eines Intake-Kanals, Sofortmaßnahmen (Block/Suppress), Benachrichtigungen und Remediation. Hierbei sollte man auch auf mögliche DSGVO-Verstöße vorbereitet sein.

Häufige Fehlannahmen – und wie sie vermieden werden

Im Bereich des rechtskonformen KI-Trainings kursieren einige Fehlannahmen:

• „Öffentlich zugänglich = frei trainierbar“ – falsch. Auch öffentlich verfügbare Inhalte sind urheber- und datenrechtlich geschützt. Es braucht TDM-Privileg oder Lizenz und eine DSGVO-Grundlage.
• „robots.txt genügt als Opt-out“ – unzuverlässig. Das TDM-Reservierungs-Signal ist der bessere, auswertbare Weg.
• „Einmal trainiert, nie mehr löschbar“ – so pauschal nicht. Ein Lösch-/Widerspruchsprozess kann an Korpus (Entfernung/Suppress), Artefakte (Filter/Adapter-Retraining) und Output-Steuerung anknüpfen. Ob ein Modell-Retrain nötig ist, hängt vom Einzelfall ab (Verhältnismäßigkeit, technische Machbarkeit, Risiko).
• „Forschungsklausel heilt alles“ – tut sie nicht. § 60d UrhG ist auf berechtigte Träger und rechtmäßigen Zugang begrenzt. Überführungen in kommerzielle Nutzung sind gesondert zu lizenzieren oder zu prüfen.

Checkliste 2025: Von der Rechtstheorie zur Revisionssicherheit

Um Rechtskonformität sicherzustellen, sollten folgende Punkte geprüft und umgesetzt werden:

1. Datenquellen-Register mit Opt-out-Status (tdm-reservation), Rechtmäßigkeit und Lizenzpfad.
2. TDM-Parser produktiv, Blocker für TDM-Vorbehalte aktiv.
3. DSGVO-Grundlage ausgewiesen (Art. 6/9), LIA/DPIA dokumentiert, Transparenztexte verfügbar.
4. Sensitive-Data-Mitigation vor Training, Ausschlusslisten aktuell.
5. Betroffenenrechte-Prozess (Auskunft, Widerspruch, Löschung) end-to-end implementiert.
6. AI-Act-GPAI: Copyright-Policy plus Trainingsinhalts-Zusammenfassung implementiert; Code of Practice gegebenenfalls gezeichnet.
7. Vertragliche Zusicherungen mit Content-/API-Partnern (Clearing, Freistellung, Audit).
8. Audit-Trail für Sourcing, Training, Evaluierung und Releases; regelmäßige Management-Reviews.

Fazit

Rechtskonformes KI-Training ist kein Ratespiel, sondern erfordert Prozess- und Beweisdisziplin. Wer TDM-Opt-outs technisch respektiert, DSGVO-Pflichten organisatorisch abbildet und AI-Act-Transparenz substanziell erfüllt, reduziert Streit- und Sanktionsrisiken erheblich. Gleichzeitig schafft dies die Grundlage, um mit Rechteinhabern planbar zu lizenzieren. Der operative Unterschied entsteht nicht in Grundsatzpapieren, sondern in Crawler-Logs, Parsern, Filtern, Policies und Verträgen, die einem Audit standhalten.