Künstliche Intelligenz (KI) zur Prozessautomatisierung

Die Einführung von Künstlicher Intelligenz (KI) in Unternehmensprozesse bietet enorme Chancen zur Effizienzsteigerung und Wettbewerbsfähigkeit, stellt Unternehmen jedoch auch vor komplexe rechtliche und ethische Herausforderungen. Der Einsatz von KI-Systemen zur Prozessautomatisierung und Entscheidungsunterstützung erfordert eine sorgfältige Abwägung zwischen den potenziellen Vorteilen und den damit verbundenen Risiken, insbesondere im Hinblick auf den Datenschutz und die Wahrung der Persönlichkeitsrechte von Mitarbeitern und Kunden.
Unternehmen, die KI in ihren Geschäftsprozessen implementieren möchten, müssen nicht nur die geltenden Datenschutzvorschriften nach der Datenschutz-Grundverordnung (DSGVO) und dem Bundesdatenschutzgesetz (BDSG) beachten, sondern auch die sich abzeichnenden Regulierungen wie den EU AI Act berücksichtigen. Dies erfordert einen ganzheitlichen Ansatz, der technische, organisatorische und rechtliche Aspekte umfasst.

Zu den zentralen Herausforderungen gehören:

• Die Gewährleistung der Transparenz bei KI-gestützten Entscheidungsprozessen
• Die Sicherstellung der Datenminimierung und Zweckbindung bei der Verarbeitung personenbezogener Daten
• Die Implementierung robuster Sicherheitsmaßnahmen zum Schutz sensibler Informationen
• Die Durchführung von Datenschutz-Folgenabschätzungen für KI-Systeme mit hohem Risikopotenzial
• Die Einhaltung ethischer Richtlinien zur Vermeidung von Diskriminierung und unfairen Praktiken

Darüber hinaus müssen Unternehmen die arbeitsrechtlichen Implikationen des KI-Einsatzes berücksichtigen, insbesondere im Hinblick auf Mitbestimmungsrechte und den Schutz der Arbeitnehmerrechte. Die Einbindung von Betriebsräten und Gewerkschaften in den Prozess der KI-Implementierung kann dabei helfen, Akzeptanz zu schaffen und potenzielle Konflikte frühzeitig zu adressieren.

Um den Datenschutz bei der Nutzung von KI für Unternehmen zu gewährleisten und gleichzeitig die Innovationskraft zu fördern, ist ein proaktiver und risikoorientierter Ansatz erforderlich. Dies umfasst die Entwicklung umfassender KI-Governance-Strukturen, die kontinuierliche Schulung von Mitarbeitern sowie die regelmäßige Überprüfung und Anpassung der implementierten Maßnahmen an sich ändernde rechtliche und technologische Rahmenbedingungen.
Letztendlich liegt die Herausforderung für Unternehmen darin, einen ausgewogenen Ansatz zu finden, der die Potenziale der KI nutzt, ohne dabei die Grundrechte und -freiheiten der betroffenen Personen zu gefährden. Nur so kann eine nachhaltige und vertrauenswürdige Integration von KI in die Unternehmensprozesse gelingen.

Rechtliche Implikationen und Haftungsfragen

Bei der Implementierung von KI-Systemen zur Prozessautomatisierung müssen Unternehmen besonders auf die rechtlichen Implikationen und Haftungsfragen achten. Der EU AI Act, der am 13. März 2024 vom Europäischen Parlament angenommen wurde und voraussichtlich noch in diesem Jahr in Kraft treten wird, schafft einen einheitlichen rechtlichen Rahmen für die Entwicklung und Verwendung von KI in Europa. Dieses Gesetz zielt darauf ab, die Rechte und Sicherheit der Bürger zu schützen und gleichzeitig Innovationen im KI-Bereich zu fördern.

Unternehmen müssen ihre KI-Anwendungen gemäß dem AI Act in verschiedene Risikoklassen einordnen und entsprechende Dokumentationspflichten erfüllen. Besonders kritisch sind dabei KI-Systeme, die als Hochrisiko eingestuft werden, da diese strengeren Anforderungen und Kontrollen unterliegen. Dies erfordert eine sorgfältige Planung und Umsetzung, um rechtliche Risiken zu minimieren und Compliance sicherzustellen. Haftungsfragen spielen eine zentrale Rolle, insbesondere wenn KI-Systeme Fehler machen oder Schäden verursachen. Die geplante KI-Haftungsrichtlinie sieht unter bestimmten Voraussetzungen eine Beweislastumkehr vor, was es Geschädigten erleichtern soll, Ansprüche geltend zu machen. Dies bedeutet, dass Unternehmen in der Pflicht sein könnten, die Fehlerfreiheit ihrer KI-Systeme nachzuweisen, was die Bedeutung robuster Qualitätssicherungsprozesse und detaillierter Dokumentationen unterstreicht.

Unternehmen müssen daher nicht nur technische, sondern auch organisatorische Maßnahmen implementieren, um die Transparenz, Nachvollziehbarkeit und Verantwortlichkeit ihrer KI-Systeme zu gewährleisten. Dies umfasst die Einrichtung von Governance-Strukturen, die Durchführung regelmäßiger Risikoanalysen und die Implementierung von Kontrollmechanismen zur Überwachung der KI-Leistung und -Entscheidungen.

Zudem sollten Verträge mit KI-Anbietern und -Nutzern sorgfältig gestaltet werden, um Haftungsrisiken klar zu regeln und gegebenenfalls zu begrenzen. Dabei ist es wichtig, Verantwortlichkeiten und Haftungsszenarien detailliert zu definieren und Mechanismen für den Umgang mit unvorhergesehenen Ereignissen oder Schäden festzulegen. Eine regelmäßige rechtliche Überprüfung und Anpassung der KI-Systeme und -Prozesse ist unerlässlich, um mit den sich entwickelnden rechtlichen Anforderungen Schritt zu halten. Dies umfasst auch die kontinuierliche Schulung von Mitarbeitern in Bezug auf rechtliche und ethische Aspekte der KI-Nutzung sowie die Einrichtung von Meldeverfahren für potenzielle Rechtsverstöße oder ethische Bedenken.

Unternehmen sollten auch die potenziellen Auswirkungen ihrer KI-Systeme auf Grundrechte und -freiheiten berücksichtigen. Der AI Act verbietet bestimmte KI-Praktiken, die als unvereinbar mit EU-Werten gelten, wie beispielsweise Social Scoring oder den Einsatz von KI zur Manipulation menschlichen Verhaltens. Es ist daher wichtig, dass Unternehmen ihre KI-Anwendungen nicht nur auf technische Effizienz, sondern auch auf ethische und rechtliche Konformität prüfen. Schließlich müssen Unternehmen beachten, dass der rechtliche Rahmen für KI sich weiterhin entwickelt. Neben dem AI Act gibt es zahlreiche andere relevante Gesetze und Richtlinien, wie die DSGVO, die Produkthaftungsrichtlinie und sektorspezifische Regulierungen, die bei der Implementierung von KI-Systemen berücksichtigt werden müssen[3]. Eine proaktive Auseinandersetzung mit diesen rechtlichen Anforderungen und die Zusammenarbeit mit Rechtsexperten können Unternehmen dabei helfen, Compliance-Risiken zu minimieren und ihre KI-Strategien rechtssicher zu gestalten.

Datenschutz und Mitarbeiterrechte

Der Einsatz von KI zur Prozessautomatisierung wirft wichtige Fragen zum Datenschutz und zu Mitarbeiterrechten auf. Die Verarbeitung personenbezogener Daten durch KI-Systeme muss im Einklang mit der Datenschutz-Grundverordnung (DSGVO) erfolgen. Zusätzlich müssen Unternehmen nun auch die Anforderungen des EU AI Acts berücksichtigen, der im Mai 2024 verabschiedet wurde und schrittweise in Kraft tritt. Der AI Act schafft einen umfassenden rechtlichen Rahmen für die Entwicklung und Nutzung von KI-Systemen in der EU und stellt je nach Risikoeinstufung des KI-Systems unterschiedliche Anforderungen. Unternehmen müssen eine klare Rechtsgrundlage für die Datenverarbeitung haben und die Grundsätze der Datenminimierung und Zweckbindung beachten. Im Arbeitsverhältnis ist die Einwilligung als Rechtsgrundlage oft problematisch aufgrund des bestehenden Machtungleichgewichts. Bei der Implementierung von KI-Systemen ist eine Datenschutz-Folgenabschätzung (DSFA) oft unerlässlich, um potenzielle Risiken für die Rechte und Freiheiten der betroffenen Personen zu identifizieren und zu minimieren.

Im Kontext des Mitarbeiterdatenschutzes müssen Unternehmen besonders vorsichtig sein, da KI-Systeme zur Leistungsüberwachung oder automatisierten Entscheidungsfindung als Hochrisiko-Systeme im Sinne des AI Acts eingestuft werden könnten. Dies erfordert nicht nur die Einbeziehung des Betriebsrats und möglicherweise den Abschluss einer Betriebsvereinbarung, sondern auch die Einhaltung strenger Auflagen gemäß dem AI Act, wie etwa umfangreiche Dokumentations- und Transparenzpflichten. Unternehmen müssen sicherstellen, dass die Verarbeitung von Mitarbeiterdaten durch KI-Systeme verhältnismäßig und transparent ist. Dies umfasst die Implementierung technischer und organisatorischer Maßnahmen zum Schutz der Daten sowie die Entwicklung klarer Richtlinien für den Einsatz von KI am Arbeitsplatz. Der AI Act fordert zudem eine gründliche Risikobewertung und kontinuierliche Überwachung von KI-Systemen, insbesondere wenn diese als Hochrisiko eingestuft werden.

Transparenz gegenüber den Mitarbeitern ist entscheidend. Unternehmen müssen ihre Mitarbeiter umfassend über den Einsatz von KI-Systemen informieren, einschließlich der Art der verarbeiteten Daten, des Zwecks der Verarbeitung und der möglichen Auswirkungen auf ihre Arbeit. Der AI Act verstärkt diese Anforderungen, indem er beispielsweise die Kennzeichnung von KI-generierten Inhalten vorschreibt.

Regelmäßige Schulungen zum Umgang mit KI-Systemen, zum Datenschutz und zu den Anforderungen des AI Acts sind unerlässlich, um Compliance-Risiken zu reduzieren und die Akzeptanz zu erhöhen. Diese Schulungen sollten neben technischen Aspekten auch rechtliche und ethische Implikationen des KI-Einsatzes im Arbeitsumfeld thematisieren.

Eine proaktive Auseinandersetzung mit den rechtlichen Anforderungen des AI Acts und der DSGVO sowie die Zusammenarbeit mit Rechtsexperten sind entscheidend, um Compliance-Risiken zu minimieren und KI-Strategien rechtssicher zu gestalten. Unternehmen sollten beachten, dass der AI Act schrittweise in Kraft tritt, wobei einige Bestimmungen bereits früher gelten werden. Ein ausgewogener Ansatz, der die Innovationspotenziale der KI nutzt, ohne die Rechte und die Würde der Mitarbeiter zu beeinträchtigen, ist dabei von zentraler Bedeutung.

Produktsicherheit und ethische Aspekte

Die Implementierung von KI-Systemen zur Prozessautomatisierung wirft wichtige Fragen der Produktsicherheit und ethischen Verantwortung auf. Unternehmen müssen sicherstellen, dass ihre KI-gesteuerten Produkte und Prozesse den geltenden Sicherheitsstandards entsprechen und keine unzumutbaren Risiken für Verbraucher oder Mitarbeiter darstellen. Dies erfordert eine sorgfältige Risikobewertung und kontinuierliche Überwachung der KI-Systeme. Der EU AI Act, der bereits in Kraft getreten ist, stellt spezifische Anforderungen an die Sicherheit und Zuverlässigkeit von KI-Systemen, insbesondere für Hochrisiko-Anwendungen. Unternehmen müssen nun frühzeitig Prozesse zur Qualitätssicherung und zum Risikomanagement implementieren, um die Konformität mit dem Gesetz sicherzustellen. Dies umfasst die Entwicklung robuster Testverfahren, die Implementierung von Sicherheitsmechanismen und die Durchführung regelmäßiger Audits.

Ethische Aspekte spielen eine zunehmend wichtige Rolle bei der Entwicklung und dem Einsatz von KI. Unternehmen sollten ethische Richtlinien für den Einsatz von KI entwickeln und implementieren, um Fairness, Transparenz und Verantwortlichkeit zu gewährleisten. Die Einrichtung eines Ethik-Komitees oder die Integration ethischer Überlegungen in den Entwicklungsprozess von KI-Systemen kann dabei helfen, potenzielle ethische Konflikte frühzeitig zu erkennen und zu adressieren. Ein wichtiger Aspekt der Produktsicherheit bei KI-Systemen ist die Gewährleistung der Zuverlässigkeit und Robustheit der Algorithmen. Unternehmen müssen sicherstellen, dass ihre KI-Systeme auch unter unvorhergesehenen Bedingungen stabil funktionieren und keine unbeabsichtigten negativen Auswirkungen haben. Dies erfordert umfangreiche Tests und Validierungen unter verschiedenen Szenarien.

Die Berücksichtigung ethischer Aspekte kann nicht nur rechtliche Risiken minimieren, sondern auch das Vertrauen von Kunden und Mitarbeitern stärken. Transparenz in Bezug auf die Funktionsweise und Entscheidungsprozesse von KI-Systemen ist dabei von entscheidender Bedeutung. Unternehmen sollten in der Lage sein, die Entscheidungen ihrer KI-Systeme nachvollziehbar zu erklären und mögliche Verzerrungen oder Diskriminierungen zu identifizieren und zu korrigieren. Unternehmen sollten zudem die potenziellen Auswirkungen ihrer KI-Systeme auf die Gesellschaft und die Umwelt berücksichtigen und Maßnahmen ergreifen, um negative Folgen zu minimieren. Dies kann die Durchführung von Folgenabschätzungen, die Einbeziehung verschiedener Stakeholder-Gruppen und die kontinuierliche Überwachung der gesellschaftlichen Auswirkungen umfassen.

Eine proaktive Auseinandersetzung mit diesen Themen kann Unternehmen helfen, sich als verantwortungsvolle Akteure im Bereich der KI-Technologie zu positionieren. Dies beinhaltet auch die aktive Teilnahme an Diskussionen zur Weiterentwicklung von Sicherheitsstandards und ethischen Richtlinien für KI-Systeme. Im Kontext der Arbeitssicherheit müssen Unternehmen besonders darauf achten, dass KI-Systeme die Sicherheit und Gesundheit der Mitarbeiter nicht gefährden. Dies erfordert eine enge Zusammenarbeit zwischen KI-Entwicklern, Arbeitsschutzexperten und den betroffenen Mitarbeitern, um potenzielle Risiken frühzeitig zu erkennen und zu minimieren.

Schließlich sollten Unternehmen auch die Möglichkeit in Betracht ziehen, KI-Systeme selbst als Werkzeug zur Verbesserung der Produktsicherheit und zur Unterstützung ethischer Entscheidungsfindung einzusetzen. KI kann beispielsweise bei der Erkennung von Sicherheitsrisiken oder bei der Analyse komplexer ethischer Szenarien helfen.

Author: Marian Härtel

Marian Härtel ist Rechtsanwalt und Fachanwalt für IT-Recht mit einer über 25-jährigen Erfahrung als Unternehmer und Berater in den Bereichen Games, E-Sport, Blockchain, SaaS und Künstliche Intelligenz. Seine Beratungsschwerpunkte umfassen neben dem IT-Recht insbesondere das Urheberrecht, Medienrecht sowie Wettbewerbsrecht. Er betreut schwerpunktmäßig Start-ups, Agenturen und Influencer, die er in strategischen Fragen, komplexen Vertragsangelegenheiten sowie bei Investitionsprojekten begleitet. Dabei zeichnet sich seine Beratung durch einen interdisziplinären Ansatz aus, der juristische Expertise und langjährige unternehmerische Erfahrung miteinander verbindet. Ziel seiner Tätigkeit ist stets, Mandanten praxisorientierte Lösungen anzubieten und rechtlich fundierte Unterstützung bei der Umsetzung innovativer Geschäftsmodelle zu gewährleisten.