Künstliche Intelligenz im Unternehmen

Die Integration von Künstlicher Intelligenz (KI) in Unternehmensprozesse bietet enorme Chancen für Effizienzsteigerungen und Innovationen. Gleichzeitig stellt der Einsatz von KI Unternehmen vor neue rechtliche Herausforderungen und Risiken. Dieser Beitrag beleuchtet die wichtigsten juristischen Aspekte und gibt Hinweise zum effektiven Risikomanagement beim Einsatz von KI im Unternehmenskontext.

Rechtlicher Rahmen für KI in Deutschland und der EU

Am 1. August 2024 ist in der EU das KI-Gesetz (Artificial Intelligence Act) in Kraft getreten, das einen umfassenden Rechtsrahmen für KI schafft. Dieses Gesetz wird ab dem 1. August 2026 vollständig anwendbar sein, mit einigen Ausnahmen für bestimmte Bestimmungen. Neben diesem spezifischen KI-Gesetz sind auch verschiedene bestehende Rechtsgebiete für den Einsatz von KI relevant:

1. Datenschutzrecht: Die DSGVO ist insbesondere bei der Verarbeitung personenbezogener Daten durch KI-Systeme zu beachten.
2. IT-Sicherheitsrecht: Das IT-Sicherheitsgesetz und die NIS-Richtlinie stellen Anforderungen an die Sicherheit von IT-Systemen, einschließlich KI.
3. Haftungsrecht: Die Produkthaftungsrichtlinie und nationale Haftungsregeln sind bei KI-gestützten Produkten und Dienstleistungen relevant.
4. Urheberrecht: Fragen des Urheberrechts stellen sich insbesondere bei KI-generierten Werken.

Das EU-KI-Gesetz verfolgt einen risikobasierten Ansatz, der KI-Anwendungen in verschiedene Risikokategorien einteilt und entsprechende Anforderungen festlegt. Dies ergänzt die bestehenden Rechtsvorschriften und schafft einen spezifischen Rahmen für die Entwicklung und den Einsatz von KI-Systemen.

Datenschutzrechtliche Herausforderungen

Der Einsatz von KI wirft spezifische datenschutzrechtliche Fragen auf:

1. Rechtmäßigkeit der Datenverarbeitung: Die Verarbeitung personenbezogener Daten durch KI-Systeme muss auf einer der in Art. 6 DSGVO genannten Rechtsgrundlagen basieren.

2. Zweckbindung und Datenminimierung: KI-Systeme neigen dazu, große Datenmengen zu verarbeiten. Dies kann mit den Prinzipien der Zweckbindung (Art. 5 Abs. 1 lit. b DSGVO) und Datenminimierung (Art. 5 Abs. 1 lit. c DSGVO) in Konflikt geraten.

3. Transparenz und Informationspflichten: Die Komplexität von KI-Systemen kann die Erfüllung der Informationspflichten nach Art. 13 und 14 DSGVO erschweren.

4. Automatisierte Entscheidungen: Bei KI-gestützten automatisierten Entscheidungen sind die Vorgaben des Art. 22 DSGVO zu beachten, der betroffenen Personen das Recht einräumt, nicht einer ausschließlich auf einer automatisierten Verarbeitung beruhenden Entscheidung unterworfen zu werden.

Um diese Herausforderungen zu bewältigen, empfiehlt sich die Durchführung einer Datenschutz-Folgenabschätzung gemäß Art. 35 DSGVO für KI-Projekte sowie die Implementierung von Privacy-by-Design-Konzepten.

Haftungsfragen beim Einsatz von KI

Der Einsatz von KI wirft neue Haftungsfragen auf, insbesondere wenn KI-Systeme autonom Entscheidungen treffen:

1. Produkthaftung: Bei KI-gestützten Produkten stellt sich die Frage, inwieweit der Hersteller für Schäden haftet, die durch autonome Entscheidungen der KI verursacht werden.

2. Verschuldenshaftung: Die Bestimmung eines Verschuldens kann bei KI-Systemen, die selbstlernend sind und deren Entscheidungsprozesse nicht immer nachvollziehbar sind, schwierig sein.

3. Beweislastverteilung: Die Komplexität von KI-Systemen kann es für Geschädigte erschweren, einen Kausalzusammenhang zwischen dem Einsatz der KI und einem eingetretenen Schaden nachzuweisen.

Unternehmen sollten klare Verantwortlichkeiten für KI-Systeme definieren und gegebenenfalls spezifische Versicherungslösungen in Betracht ziehen.

Urheberrechtliche Aspekte von KI

KI-Systeme können kreative Werke wie Texte, Bilder oder Musik generieren. Dies wirft urheberrechtliche Fragen auf:

1. Schutzfähigkeit: Sind KI-generierte Werke urheberrechtlich schutzfähig? Nach derzeitiger Rechtslage in Deutschland ist ein menschlicher Schöpfungsakt für den Urheberrechtsschutz erforderlich.

2. Urheberschaft: Wem stehen die Rechte an KI-generierten Werken zu? Dem Entwickler der KI, dem Nutzer oder der KI selbst?

3. Trainingsmaterial: Die Nutzung urheberrechtlich geschützter Werke zum Training von KI-Systemen kann urheberrechtliche Probleme aufwerfen.

Unternehmen sollten bei der Nutzung von KI-generierten Inhalten vorsichtig sein und gegebenenfalls vertragliche Regelungen zur Rechteeinräumung treffen.

Diskriminierungsrisiken und Ethik

KI-Systeme können unbeabsichtigt diskriminierende Entscheidungen treffen, wenn sie mit verzerrten Datensätzen trainiert wurden. Dies kann zu Verstößen gegen das Allgemeine Gleichbehandlungsgesetz (AGG) führen, insbesondere im Bereich der Personalauswahl oder der Kreditvergabe.

Unternehmen sollten:
1. KI-Systeme auf mögliche Verzerrungen (Bias) überprüfen
2. Diverse und repräsentative Trainingsdaten verwenden
3. Regelmäßige Audits der KI-Entscheidungen durchführen
4. Ethische Richtlinien für den Einsatz von KI entwickeln

Risikomanagement und Compliance

Ein effektives Risikomanagement für den KI-Einsatz umfasst:

1. KI-Governance: Etablierung klarer Strukturen und Verantwortlichkeiten für KI-Projekte
2. Risikobewertung: Durchführung regelmäßiger Risikobewertungen für KI-Anwendungen
3. Dokumentation: Umfassende Dokumentation von KI-Systemen, einschließlich Trainingsdaten und Entscheidungslogiken
4. Schulungen: Regelmäßige Schulungen für Mitarbeiter zum rechtssicheren Umgang mit KI
5. Monitoring: Kontinuierliche Überwachung und Evaluation von KI-Systemen
6. Notfallpläne: Entwicklung von Notfallplänen für den Fall von Fehlfunktionen oder unerwarteten Ergebnissen der KI

Praxistipps für Unternehmen

Basierend auf der Erfahrung als IT-Rechtsexperte lassen sich folgende Praxistipps für Unternehmen ableiten:

1. Rechtliche Due Diligence: Führen Sie vor der Implementierung von KI-Systemen eine umfassende rechtliche Prüfung durch.

2. Datenschutz by Design: Integrieren Sie Datenschutzanforderungen von Beginn an in die Entwicklung und den Einsatz von KI-Systemen.

3. Transparenz und Erklärbarkeit: Streben Sie nach möglichst transparenten und erklärbaren KI-Systemen, um rechtliche und ethische Anforderungen zu erfüllen.

4. Vertragsgestaltung: Achten Sie bei der Beschaffung von KI-Systemen oder -Dienstleistungen auf eine klare vertragliche Regelung von Verantwortlichkeiten und Haftungsfragen.

5. Ethik-Richtlinien: Entwickeln Sie unternehmensinterne Ethik-Richtlinien für den Einsatz von KI.

6. Interdisziplinäre Teams: Setzen Sie bei KI-Projekten auf interdisziplinäre Teams, die technische, rechtliche und ethische Expertise vereinen.

Der Einsatz von KI im Unternehmenskontext bietet enorme Chancen, erfordert jedoch ein sorgfältiges Management der damit verbundenen rechtlichen und ethischen Risiken. Eine proaktive Auseinandersetzung mit den rechtlichen Rahmenbedingungen und die Implementierung eines robusten Risikomanagements sind entscheidend, um die Potenziale von KI voll auszuschöpfen und gleichzeitig Compliance sicherzustellen.

Angesichts der Komplexität und der sich ständig weiterentwickelnden rechtlichen und technologischen Landschaft ist es für Unternehmen ratsam, bei der Implementierung von KI-Systemen spezialisierte rechtliche und technische Expertise hinzuzuziehen.

Author: Marian Härtel

Marian Härtel ist Rechtsanwalt und Fachanwalt für IT-Recht mit einer über 25-jährigen Erfahrung als Unternehmer und Berater in den Bereichen Games, E-Sport, Blockchain, SaaS und Künstliche Intelligenz. Seine Beratungsschwerpunkte umfassen neben dem IT-Recht insbesondere das Urheberrecht, Medienrecht sowie Wettbewerbsrecht. Er betreut schwerpunktmäßig Start-ups, Agenturen und Influencer, die er in strategischen Fragen, komplexen Vertragsangelegenheiten sowie bei Investitionsprojekten begleitet. Dabei zeichnet sich seine Beratung durch einen interdisziplinären Ansatz aus, der juristische Expertise und langjährige unternehmerische Erfahrung miteinander verbindet. Ziel seiner Tätigkeit ist stets, Mandanten praxisorientierte Lösungen anzubieten und rechtlich fundierte Unterstützung bei der Umsetzung innovativer Geschäftsmodelle zu gewährleisten.