Navigieren durch KI-Generatoren: Haftung, Offenlegung und Notwendigkeit von Regulierungen

Einleitung

In meiner täglichen Arbeit als Anwalt für Technologie- und Medienrecht komme ich immer wieder mit verschiedenen Formen der Künstlichen Intelligenz in Berührung. Es ist faszinierend zu sehen, wie diese Technologie rasant an Bedeutung gewinnt und in so vielen verschiedenen Bereichen eingesetzt wird. Ob es nun ein Textgenerator ist, der eine Vorlage für einen Blogbeitrag erstellt, oder ein KI-gestütztes Design-Tool, das ein ansprechendes Bild oder Video für eine Marketingkampagne kreiert – KI-Tools sind überall und ihre Anwendungen sind unglaublich vielfältig.

Trotz der vielen Vorteile, die diese Technologien mit sich bringen, gibt es jedoch auch einige bedeutende Fragen und Herausforderungen. Eine der drängendsten Fragen ist die Haftung: Wer ist verantwortlich, wenn eine KI-generierte Arbeit fehlerhaft ist oder nicht den erwarteten Qualitätsstandards entspricht? Ist es der Auftragnehmer, der das KI-Tool verwendet hat, oder könnte es sogar der Anbieter der KI-Software sein?

Ein weiteres wichtiges Thema ist die Offenlegung der Verwendung von KI-Tools. Wenn ein Auftragnehmer ein KI-Tool für eine Aufgabe verwendet, muss er dies dann dem Auftraggeber mitteilen? Und wenn ja, in welchem Umfang? Diese Fragen sind nicht nur aus rechtlicher, sondern auch aus ethischer Sicht relevant.

In diesem Blogartikel werde ich diese Themen näher beleuchten und versuchen, einige Antworten zu geben. Ich werde auch die Rolle des Gesetzgebers in diesem sich schnell entwickelnden Bereich diskutieren und darüber nachdenken, ob es an der Zeit ist, dass die Regulierung Schritt hält. Es wird spannend sein, diese Fragen zu erkunden und die Dynamik zwischen Technologie, Recht und Ethik zu betrachten.

Wer haftet bei Fehlern in KI-generierten Inhalten?

Gemäß dem Bürgerlichen Gesetzbuch (BGB) trägt in der Regel der Auftragnehmer die Verantwortung für die Qualität der von ihm erbrachten Dienstleistung. In der Praxis bedeutet dies, wenn ein KI-Generator – ob es sich um einen Textgenerator oder ein Tool zur Erstellung von Grafiken oder Videos handelt – Inhalte mit Fehlern produziert, liegt die Haftung grundsätzlich beim Auftragnehmer. Es ist eine grundlegende Verantwortung des Auftragnehmers, sicherzustellen, dass die erbrachten Dienstleistungen den im Vertrag festgelegten Standards entsprechen.

Als jemand, der moderne Technologien und insbesondere Software-as-a-Service (SaaS) Diensten schätzt, sehe ich es als entscheidend an, dass die Nutzer von KI sich dieser Realität bewusst sind. KI ist ein mächtiges Werkzeug, das in der Lage ist, erstaunliche Dinge zu tun. Aber genau wie jede andere Technologie ist sie nicht unfehlbar. Sie kann und wird Fehler machen.

Am Ende des Tages wird es in den meisten Fällen der Auftragnehmer sein, der die Verantwortung für diese Fehler übernehmen muss. Dies ist ein wichtiger Aspekt, den jeder, der mit KI-Generatoren arbeitet, bedenken sollte. Es ist wichtig, die Risiken zu erkennen und sich darauf vorzubereiten, um sich vor möglichen rechtlichen Konsequenzen zu schützen.

Die Frage der Offenlegung der Nutzung von KI-Tools

In der aktuellen Rechtslandschaft gibt es noch keine klaren Vorschriften oder Urteile, die bestimmen, ob die Verwendung von KI-Tools in einem Auftragsverhältnis offengelegt werden muss. Allerdings können und sollten Verträge an die sich entwickelnde Technologielandschaft angepasst werden.

Denken wir beispielsweise an Redaktionen oder Programmierprojekte. Es könnte durchaus sinnvoll sein, eine Klausel in Verträge aufzunehmen, die die Offenlegung der Verwendung von KI-Tools verlangt. Auf diese Weise würde ein höheres Maß an Transparenz gewährleistet und das Bewusstsein für die Möglichkeiten und Grenzen der KI gefördert.

Doch hier liegt auch eine Herausforderung. Eine solche Klausel zu formulieren, könnte sich als schwierig erweisen. Die Verwendung von KI-Tools ist an sich nicht problematisch und sollte nicht generell untersagt werden. Im Gegenteil, sie können einen enormen Nutzen bringen. Daher sollte der Fokus nicht darauf liegen, sie zu verbieten, sondern vielmehr auf einer klaren Kommunikation über ihre Nutzung. Als Auftraggeber möchte man im Klaren darüber sein, wie und wann solche Tools zum Einsatz kommen.

Ein weiterer Punkt, den ich gerne ansprechen würde, ist die Frage der Preisgestaltung. Die Nutzung von KI-Tools sollte nicht unbedingt zu einer Senkung der Preise führen. Die Erstellung von geeigneten Prompts für KI-Generatoren, die anschließende Kontrolle und Bearbeitung der generierten Inhalte, all dies erfordert Zeit und Expertise. Die Verwendung von KI-Tools sollte daher nicht als Mittel zur Kostensenkung betrachtet werden, sondern vielmehr als ein Werkzeug, das neue Möglichkeiten eröffnet.

Um das Ganze mit einem Augenzwinkern abzuschließen: Keiner hat seine Stundensätze gesenkt, nur weil er Texte nun mit Word und automatischer Rechtschreibprüfung statt mit Feder und Papier erstellt hat. Ganz im Gegenteil, wir haben diese Werkzeuge genutzt, um unsere Arbeit zu verbessern und effizienter zu gestalten. Und genau so sollten wir auch die Nutzung von KI-Tools betrachten.

Rückgriffsansprüche gegen KI-Anbieter

Die Möglichkeit von Rückgriffsansprüchen gegen die Anbieter von KI-Tools ist ein weiterer Bereich, der noch erhebliche rechtliche Unklarheiten aufweist. In einer Welt, in der Geschäftsbeziehungen zunehmend globalisiert und grenzübergreifend sind, könnten solche Ansprüche schwierig durchzusetzen sein. Vor allem dann, wenn die Anbieter ihren Sitz in einem anderen Rechtssystem haben. Verschiedene Rechtsordnungen könnten unterschiedliche Standards und Regelungen für solche Fälle haben, was die Angelegenheit noch komplizierter macht.

Zusätzlich zu den Herausforderungen, die sich aus der Internationalität ergeben, könnte es auch Fälle geben, in denen die Anbieter von KI-SaaS-Diensten Rückgriffsansprüche in ihren Geschäftsbedingungen ausschließen. Es ist in vielen Branchen üblich, solche Haftungsausschlüsse in die Vertragsbedingungen aufzunehmen, um das Risiko zu minimieren.

Allerdings sollten Anbieter von SaaS-Produkten und anderen Softwaretools ihre Allgemeinen Geschäftsbedingungen sorgfältig überprüfen und gegebenenfalls aktualisieren, um sicherzustellen, dass sie diese Aspekte berücksichtigen. Dies ist nicht nur zum Schutz ihrer eigenen Interessen wichtig, sondern auch, um einen fairen und transparenten Rahmen für ihre Kunden zu schaffen.

Es ist essenziell, dass alle Beteiligten – von den Auftragnehmern über die Auftraggeber bis hin zu den Anbietern der KI-Tools – sich der möglichen rechtlichen Risiken bewusst sind und geeignete Maßnahmen ergreifen, um diese zu adressieren. Dies kann helfen, Streitigkeiten zu vermeiden und das Vertrauen in KI-Tools und die dahinterstehenden Technologien zu stärken.

Die Rolle des Gesetzgebers

Die Herausforderungen und Fragen, die die Nutzung von KI-Tools mit sich bringt, führen uns zu einer wichtigen Diskussion: Wie und in welchem Ausmaß sollte der Gesetzgeber regulierend eingreifen?

Gegenwärtig ist das rechtliche Umfeld rund um KI von Unsicherheit und Unklarheit geprägt. Eine klarere und einheitlichere Regelung, die spezifisch auf die Verwendung von KI-Tools ausgerichtet ist, könnte sowohl den Nutzern als auch den Anbietern dieser Technologien erhebliche Vorteile bieten. Für die Nutzer würde eine solche Regelung mehr Klarheit über ihre Rechte und Pflichten bieten, was wiederum das Vertrauen in diese Tools stärken könnte. Für die Anbieter könnte eine klarere Gesetzgebung die rechtlichen Risiken minimieren und dabei helfen, ihre Geschäftspraktiken besser auszurichten.

Allerdings sollte der Gesetzgeber dabei einen ausgewogenen Ansatz verfolgen. Eine Überregulierung könnte Innovationen hemmen und den Einsatz von KI-Tools unnötig erschweren. Andererseits könnte ein Mangel an Regulierung zu Missbrauch führen und die Verbraucher ungeschützt lassen. Es ist daher wichtig, einen ausgewogenen Mittelweg zu finden, der sowohl die Interessen der Nutzer als auch die der Anbieter berücksichtigt.

Darüber hinaus sollte bei der Entwicklung einer solchen Regelung ein breites Spektrum von Stakeholdern einbezogen werden, um eine möglichst umfassende und ausgewogene Sichtweise zu gewährleisten. Dazu könnten neben den Anbietern von KI-Tools und ihren Nutzern auch Datenschutzbeauftragte, Ethikexperten und Vertreter der Zivilgesellschaft gehören.

Es besteht kein Zweifel, dass der Weg zu einer effektiven Regelung für die Nutzung von KI-Tools kein einfacher sein wird. Aber angesichts der raschen Entwicklung und Verbreitung dieser Technologien ist es eine Diskussion, die wir unbedingt führen müssen.

Angesichts der Herausforderungen und Fragen, die sich aus der Nutzung von KI-Tools ergeben, haben wir uns in die wichtige Debatte begeben, wie und in welchem Ausmaß der Gesetzgeber regulierend eingreifen sollte. Nun zeigt sich, dass das Europaparlament aktiv geworden ist und neue Transparenz- und Risikomanagementregeln für KI-Systeme gebilligt hat. Die Binnenmarktausschuss und der Ausschuss für bürgerliche Freiheiten in Straßburg haben den Entwurf eines Verhandlungsmandats für die ersten Regeln für Künstliche Intelligenz mit 84 Ja-Stimmen, 7 Nein-Stimmen und 12 Enthaltungen angenommen.

Die Europaabgeordneten haben in ihren Änderungsanträgen zum Kommissionsvorschlag den Wunsch betont, dass KI-Systeme von Menschen überwacht werden, sicher, transparent, nachvollziehbar, nicht diskriminierend und umweltfreundlich sind. Darüber hinaus streben sie eine einheitliche und technologieneutrale KI-Definition an, die sowohl für aktuelle als auch für zukünftige KI-Systeme gelten soll.

Die vorgeschlagenen Regeln folgen einem risikobasierten Ansatz und legen Verpflichtungen für Anbieter und Nutzer fest, die sich nach dem Grad des Risikos richten, das die KI erzeugen kann. Besondere Aufmerksamkeit wurde den KI-Systemen gewidmet, die ein inakzeptables Risiko für die Sicherheit von Menschen darstellen, indem sie unterschwellige oder absichtlich manipulative Techniken einsetzen, die Schwachstellen von Menschen ausnutzen oder für Social Scoring verwendet werden.

Die Abgeordneten haben die Liste der Verbotenen KI-Praktiken erheblich erweitert und Verbote für aufdringliche und diskriminierende Anwendungen von KI-Systemen aufgenommen. Darunter fallen biometrische Erkennungssysteme in Echtzeit in öffentlich zugänglichen Räumen; biometrische Kategorisierungssysteme, die sensible Merkmale verwenden; prädiktive Polizeisysteme und Systeme zur Erkennung von Emotionen bei der Strafverfolgung, am Arbeitsplatz und in Bildungseinrichtungen. Sie haben auch das wahllose Auslesen biometrischer Daten aus sozialen Medien oder Videoüberwachungsaufnahmen zur Erstellung von Gesichtserkennungsdatenbanken verboten.

Die Klassifizierung der Hochrisikobereiche wurde um die Bereiche Gesundheit, Sicherheit, Grundrechte und Umwelt erweitert. Hinzugefügt wurden auch KI-Systeme zur Beeinflussung von Wählern in politischen Kampagnen und Empfehlungssysteme, die von Social-Media-Plattformen mit mehr als 45 Millionen Nutzern verwendet werden.

Fazit

In der Zusammenfassung dieser umfangreichen Information, sollte man hervorzuheben, dass ein kontinuierlicher Austausch zu diesen Themen von entscheidender Bedeutung ist. Besonders die Überprüfung und Anpassung von Verträgen und Allgemeinen Geschäftsbedingungen (AGB), die auf die spezifischen Bedürfnisse und Herausforderungen im Kontext der Künstlichen Intelligenz (KI) zugeschnitten sind, sollten angesichts der sich rasant entwickelnden Technologien Priorität haben.

Es besteht kein Zweifel, dass KI uns enorme Möglichkeiten bietet. Von der Optimierung von Arbeitsabläufen bis hin zur Eröffnung neuer, noch nicht erforschter Geschäftsfelder kann KI das Leben auf viele Arten bereichern und vereinfachen. Allerdings müssen wir uns gleichzeitig der möglichen Herausforderungen bewusst sein, die diese Technologie mit sich bringt. Dies gilt insbesondere für Aspekte wie die Haftung, das Datenschutzrecht und ethische Fragen, die sich aus der Nutzung von KI ergeben.

Mit über 15 Jahren Erfahrung in der Beratung von IT-Verträgen bin ich bestens positioniert, um Sie in dieser komplexen und sich ständig weiterentwickelnden Landschaft zu unterstützen. Ob Sie ein Anbieter oder ein Nutzer von KI-Tools sind, ich kann Ihnen helfen, Ihre Verträge und AGB so zu gestalten, dass sie den aktuellen rechtlichen Anforderungen entsprechen und gleichzeitig Ihre spezifischen Bedürfnisse und Ziele berücksichtigen.

Es ist wichtig, sich daran zu erinnern, dass die rechtlichen Rahmenbedingungen für KI sich weiterentwickeln und sich an die technologischen Fortschritte anpassen müssen. Daher ist es unerlässlich, stets auf dem Laufenden zu bleiben und die Verträge regelmäßig zu überprüfen und anzupassen. Es ist meine feste Überzeugung, dass wir nur dann das volle Potenzial von KI ausschöpfen können, wenn wir auch die rechtlichen Herausforderungen angehen, die sie mit sich bringt.

Ich freue mich darauf, mit Ihnen zusammenzuarbeiten und Ihnen dabei zu helfen, die vielfältigen Möglichkeiten von KI zu nutzen und gleichzeitig die rechtlichen und ethischen Herausforderungen zu meistern, die sie mit sich bringt.

Author: Marian Härtel

Marian Härtel ist Rechtsanwalt und Fachanwalt für IT-Recht mit einer über 25-jährigen Erfahrung als Unternehmer und Berater in den Bereichen Games, E-Sport, Blockchain, SaaS und Künstliche Intelligenz. Seine Beratungsschwerpunkte umfassen neben dem IT-Recht insbesondere das Urheberrecht, Medienrecht sowie Wettbewerbsrecht. Er betreut schwerpunktmäßig Start-ups, Agenturen und Influencer, die er in strategischen Fragen, komplexen Vertragsangelegenheiten sowie bei Investitionsprojekten begleitet. Dabei zeichnet sich seine Beratung durch einen interdisziplinären Ansatz aus, der juristische Expertise und langjährige unternehmerische Erfahrung miteinander verbindet. Ziel seiner Tätigkeit ist stets, Mandanten praxisorientierte Lösungen anzubieten und rechtlich fundierte Unterstützung bei der Umsetzung innovativer Geschäftsmodelle zu gewährleisten.