Künstliche Intelligenz Recht im Unternehmen | IT-Medienrecht

Rechtliche Aspekte und Risikomanagement beim Einsatz von KI im Unternehmen

Die Integration von Künstlicher Intelligenz (KI) in Unternehmensprozesse bietet enorme Chancen für Effizienzsteigerungen und Innovationen. Gleichzeitig stellt der Einsatz von KI Unternehmen vor neue rechtliche Herausforderungen und Risiken. Dieser Beitrag beleuchtet die wichtigsten juristischen Aspekte und gibt Hinweise zum effektiven Risikomanagement beim Einsatz von KI im Unternehmenskontext.

Rechtlicher Rahmen für KI in Deutschland und der EU

Am 1. August 2024 ist in der EU das EU-KI-Gesetz (Artificial Intelligence Act) in Kraft getreten, das einen umfassenden Rechtsrahmen für Künstliche Intelligenz schafft. Dieses Gesetz wird ab dem 1. August 2026 vollständig anwendbar sein, mit einigen Ausnahmen für bestimmte Bestimmungen. Neben diesem spezifischen KI-Gesetz sind auch verschiedene bestehende Rechtsgebiete für den Einsatz von KI relevant:

1. Datenschutzrecht: Die DSGVO ist insbesondere bei der Verarbeitung personenbezogener Daten durch KI-Systeme zu beachten.
2. IT-Sicherheitsrecht: Das IT-Sicherheitsgesetz und die NIS-Richtlinie stellen Anforderungen an die Sicherheit von IT-Systemen, einschließlich KI.
3. Haftungsrecht: Die Produkthaftungsrichtlinie und nationale Haftungsregeln sind bei KI-gestützten Produkten und Dienstleistungen relevant.
4. Urheberrecht: Fragen des Urheberrechts stellen sich insbesondere bei KI-generierten Werken.

Das EU-KI-Gesetz verfolgt einen risikobasierten Ansatz. Es teilt KI-Anwendungen in verschiedene Risikokategorien ein und legt entsprechende Anforderungen fest. Dies ergänzt die bestehenden Rechtsvorschriften und schafft einen spezifischen Rahmen für die Entwicklung und den Einsatz von KI-Systemen.

Datenschutzrechtliche Herausforderungen bei KI-Systemen

• Rechtmäßigkeit der Datenverarbeitung: Die Verarbeitung personenbezogener Daten durch KI-Systeme muss auf einer der in Art. 6 DSGVO genannten Rechtsgrundlagen basieren.
• Zweckbindung und Datenminimierung: KI-Systeme neigen dazu, große Datenmengen zu verarbeiten, was mit den Prinzipien der Zweckbindung (Art. 5 Abs. 1 lit. b DSGVO) und Datenminimierung (Art. 5 Abs. 1 lit. c DSGVO) in Konflikt geraten kann.
• Transparenz und Informationspflichten: Die Komplexität von KI-Systemen kann die Erfüllung der Informationspflichten nach Art. 13 und Art. 14 DSGVO erschweren.
• Automatisierte Entscheidungen: Bei KI-gestützten automatisierten Entscheidungen sind die Vorgaben des Art. 22 DSGVO zu beachten.

1. Rechtmäßigkeit der Datenverarbeitung: Die Verarbeitung personenbezogener Daten durch KI-Systeme muss auf einer der in Art. 6 DSGVO genannten Rechtsgrundlagen basieren.
2. Zweckbindung und Datenminimierung: KI-Systeme neigen dazu, große Datenmengen zu verarbeiten. Dies kann mit den Prinzipien der Zweckbindung (Art. 5 Abs. 1 lit. b DSGVO) und Datenminimierung (Art. 5 Abs. 1 lit. c DSGVO) in Konflikt geraten.
3. Transparenz und Informationspflichten: Die Komplexität von KI-Systemen kann die Erfüllung der Informationspflichten nach Art. 13 und Art. 14 DSGVO erschweren.
4. Automatisierte Entscheidungen: Bei KI-gestützten automatisierten Entscheidungen sind die Vorgaben des Art. 22 DSGVO zu beachten. Dieser Artikel räumt betroffenen Personen das Recht ein, nicht einer ausschließlich auf einer automatisierten Verarbeitung beruhenden Entscheidung unterworfen zu werden.

Um diese Herausforderungen zu bewältigen, empfiehlt sich die Durchführung einer Datenschutz-Folgenabschätzung gemäß Art. 35 DSGVO für KI-Projekte. Ebenso wichtig ist die Implementierung von Privacy-by-Design-Konzepten. Weitere Informationen zum Thema Datenschutz finden Sie in unserem Beitrag über Neuerungen im Datenschutzrecht.

Haftungsfragen bei KI-Systemen im Unternehmen

• Produkthaftung: Frage der Herstellerhaftung für Schäden durch autonome KI-Entscheidungen bei KI-gestützten Produkten.
• Verschuldenshaftung: Schwierigkeit der Bestimmung eines Verschuldens bei selbstlernenden KI-Systemen, deren Entscheidungsprozesse nicht immer nachvollziehbar sind.
• Beweislastverteilung: Erschwerte Nachweisbarkeit eines Kausalzusammenhangs zwischen KI-Einsatz und Schaden für Geschädigte.

1. Produkthaftung: Bei KI-gestützten Produkten stellt sich die Frage, inwieweit der Hersteller für Schäden haftet, die durch autonome Entscheidungen der KI verursacht werden.
2. Verschuldenshaftung: Die Bestimmung eines Verschuldens kann bei selbstlernenden KI-Systemen schwierig sein. Ihre Entscheidungsprozesse sind nicht immer vollständig nachvollziehbar.
3. Beweislastverteilung: Die Komplexität von KI-Systemen kann es für Geschädigte erschweren, einen Kausalzusammenhang zwischen dem Einsatz der KI und einem eingetretenen Schaden nachzuweisen.

Unternehmen sollten daher klare Verantwortlichkeiten für ihre KI-Systeme definieren. Zudem ist es ratsam, gegebenenfalls spezifische Versicherungslösungen in Betracht zu ziehen, um sich gegen potenzielle Risiken abzusichern.

Urheberrechtliche Aspekte bei KI-generierten Inhalten

• Schutzfähigkeit: Frage, ob KI-generierte Werke urheberrechtlich schutzfähig sind, da in Deutschland ein menschlicher Schöpfungsakt erforderlich ist.
• Urheberschaft: Unklare Rechtslage bezüglich der Rechteinhaberschaft an KI-generierten Werken (Entwickler, Nutzer, KI).
• Trainingsmaterial: Potenzielle urheberrechtliche Probleme bei der Nutzung geschützter Werke zum Training von KI-Systemen.

1. Schutzfähigkeit: Es stellt sich die Frage, ob KI-generierte Werke urheberrechtlich schutzfähig sind. Nach derzeitiger Rechtslage in Deutschland ist ein menschlicher Schöpfungsakt für den Urheberrechtsschutz erforderlich.
2. Urheberschaft: Wem stehen die Rechte an KI-generierten Werken zu? Dies kann dem Entwickler der KI, dem Nutzer oder sogar der KI selbst zugeschrieben werden, wobei die Rechtslage hier noch unklar ist.
3. Trainingsmaterial: Die Nutzung urheberrechtlich geschützter Werke zum Training von KI-Systemen kann ebenfalls urheberrechtliche Probleme aufwerfen.

Unternehmen sollten bei der Nutzung von KI-generierten Inhalten besonders vorsichtig sein. Gegebenenfalls sind vertragliche Regelungen zur Rechteeinräumung zu treffen. Eine weitere Perspektive auf die Nutzung von KI in kreativen Prozessen bietet der Artikel über KI-Deepfakes und „digitale Vergewaltigung“.

Diskriminierungsrisiken und ethische Aspekte beim KI-Einsatz

KI-Systeme können unbeabsichtigt diskriminierende Entscheidungen treffen. Dies geschieht, wenn sie mit verzerrten Datensätzen trainiert wurden (Bias). Solche Entscheidungen können zu Verstößen gegen das Allgemeine Gleichbehandlungsgesetz (AGG) führen, insbesondere in Bereichen wie Personalauswahl oder Kreditvergabe.

• KI-Systeme auf mögliche Verzerrungen (Bias) überprüfen und bereinigen.
• Diverse und repräsentative Trainingsdaten verwenden, um eine breite Abbildung der Realität sicherzustellen.
• Regelmäßige Audits der KI-Entscheidungen durchführen, um Fairness und Transparenz zu gewährleisten.
• Ethische Richtlinien für den Einsatz von KI entwickeln und implementieren, die den Unternehmenswerten entsprechen.

• KI-Systeme auf mögliche Verzerrungen (Bias) überprüfen und bereinigen.
• Diverse und repräsentative Trainingsdaten verwenden, um eine breite Abbildung der Realität sicherzustellen.
• Regelmäßige Audits der KI-Entscheidungen durchführen, um Fairness und Transparenz zu gewährleisten.
• Ethische Richtlinien für den Einsatz von KI entwickeln und implementieren, die den Unternehmenswerten entsprechen.

Risikomanagement und Compliance beim Einsatz von KI

• KI-Governance: Etablierung klarer Strukturen und Verantwortlichkeiten für alle KI-Projekte.
• Risikobewertung: Durchführung regelmäßiger und umfassender Risikobewertungen für sämtliche KI-Anwendungen.
• Dokumentation: Umfassende Dokumentation der KI-Systeme, einschließlich Trainingsdaten und Entscheidungslogiken.
• Schulungen: Regelmäßige Schulungen für Mitarbeiter zum rechtssicheren Umgang mit KI-Technologien.
• Monitoring: Kontinuierliche Überwachung und Evaluation der eingesetzten KI-Systeme.
• Notfallpläne: Entwicklung von Notfallplänen für Fehlfunktionen oder unerwartete Ergebnisse der KI.

• KI-Governance: Etablierung klarer Strukturen und Verantwortlichkeiten für alle KI-Projekte im Unternehmen.
• Risikobewertung: Durchführung regelmäßiger und umfassender Risikobewertungen für sämtliche KI-Anwendungen.
• Dokumentation: Umfassende Dokumentation der KI-Systeme, einschließlich verwendeter Trainingsdaten und zugrunde liegender Entscheidungslogiken.
• Schulungen: Regelmäßige Schulungen für Mitarbeiter zum rechtssicheren Umgang mit KI-Technologien.
• Monitoring: Kontinuierliche Überwachung und Evaluation der eingesetzten KI-Systeme, um deren Leistung und Compliance sicherzustellen.
• Notfallpläne: Entwicklung von Notfallplänen für den Fall von Fehlfunktionen oder unerwarteten Ergebnissen der KI.

Für weitere Aspekte des IT-Rechts und der Compliance, insbesondere im Bereich Datenschutz, empfehlen wir unseren Beitrag zu Risiken beim Hosting von personenbezogenen Daten auf US-Cloudservern.

Praxistipps für den rechtssicheren Einsatz von KI

• Rechtliche Due Diligence: Umfassende rechtliche Prüfung vor der Implementierung von KI-Systemen.
• Datenschutz by Design: Integration von Datenschutzanforderungen von Beginn an in die Entwicklung und den Einsatz von KI-Systemen.
• Transparenz und Erklärbarkeit: Streben nach transparenten und erklärbaren KI-Systemen zur Erfüllung rechtlicher und ethischer Anforderungen.
• Vertragsgestaltung: Klare vertragliche Regelung von Verantwortlichkeiten und Haftungsfragen bei der Beschaffung von KI-Systemen oder -Dienstleistungen.
• Ethik-Richtlinien: Entwicklung unternehmensinterner Ethik-Richtlinien für den Einsatz von KI.
• Interdisziplinäre Teams: Einsatz von Teams mit technischer, rechtlicher und ethischer Expertise bei KI-Projekten.

• Rechtliche Due Diligence: Führen Sie vor der Implementierung von KI-Systemen eine umfassende rechtliche Prüfung durch.
• Datenschutz by Design: Integrieren Sie Datenschutzanforderungen von Beginn an in die Entwicklung und den Einsatz von KI-Systemen.
• Transparenz und Erklärbarkeit: Streben Sie nach möglichst transparenten und erklärbaren KI-Systemen, um sowohl rechtliche als auch ethische Anforderungen zu erfüllen.
• Vertragsgestaltung: Achten Sie bei der Beschaffung von KI-Systemen oder -Dienstleistungen auf eine klare vertragliche Regelung von Verantwortlichkeiten und Haftungsfragen. Weitere Informationen zur Vertragsgestaltung finden Sie in unserem Beitrag über die Wichtigkeit von Verträgen.
• Ethik-Richtlinien: Entwickeln Sie unternehmensinterne Ethik-Richtlinien für den Einsatz von KI, die als Leitfaden dienen.
• Interdisziplinäre Teams: Setzen Sie bei KI-Projekten auf interdisziplinäre Teams, die technische, rechtliche und ethische Expertise vereinen.

Fazit

Der Einsatz von Künstlicher Intelligenz im Unternehmenskontext bietet enorme Chancen, erfordert jedoch ein sorgfältiges Management der damit verbundenen rechtlichen und ethischen Risiken. Eine proaktive Auseinandersetzung mit den rechtlichen Rahmenbedingungen und die Implementierung eines robusten Risikomanagements sind entscheidend, um die Potenziale von KI voll auszuschöpfen und gleichzeitig die Compliance sicherzustellen.

Angesichts der Komplexität und der sich ständig weiterentwickelnden rechtlichen und technologischen Landschaft ist es für Unternehmen ratsam, bei der Implementierung von KI-Systemen spezialisierte rechtliche und technische Expertise hinzuzuziehen. Dies sichert eine fundierte Vorgehensweise und minimiert Risiken.