Ist die Unvorhersehbarkeit von KI-Ergebnissen eine juristische Zeitbombe?

Durch zwei aktuelle Mandate und einige Gespräche in den letzten Tagen wurde mir eine faszinierende Rechtsfrage bewusst, die zukünftig eine bedeutende juristische Herausforderung für Gerichte darstellen könnte. Diese Fragestellung hat das Potenzial, die Formulierung von Verträgen und AGBs bei KI-Anbietern tiefgreifend zu verändern. Deshalb lade ich Kollegen aus der Rechtsbranche sowie KI-Experten ein, sich dieser Thematik anzunehmen und sie weiter zu vertiefen. Es ist essentiell, dass wir uns rechtzeitig mit diesen möglichen Veränderungen auseinandersetzen.

Kann man für ein Ergebnis haften, das man nicht vorhersagen kann?

Die meisten KI-Systeme, insbesondere solche, die auf LLM (Language Model) basieren, produzieren Ergebnisse, die im Wesentlichen auf mathematischen Wahrscheinlichkeiten beruhen. Das bedeutet, dass das Ergebnis nicht immer vorhersehbar ist, selbst wenn die KI korrekt funktioniert. In einer Welt, in der Präzision und Genauigkeit oft von entscheidender Bedeutung sind, kann diese Unvorhersehbarkeit zu erheblichen Herausforderungen führen.

Diese Thematik berührt nicht nur den Inhalt meines gestrigen Artikels „Juristische Aspekte beim Einsatz von KI im Marketing„, sondern erstreckt sich auch auf andere Anwendungsgebiete. Denken Sie an die Nutzung von KI bei Investments, bei der Analyse von Bildern, beim Erkennen von Krankheiten auf Röntgenbildern oder bei der Auswertung von Wirtschaftsinformationen. In all diesen Bereichen stellt sich die Frage: Wann wird die technisch bedingte mathematische (Un)wahrscheinlichkeit zu einem juristischen Fehler? Und inwieweit müssen Anbieter in ihren AGBs oder Verträgen explizit auf diese Unvorhersehbarkeit und die damit verbundenen Risiken hinweisen? Es handelt sich um ein komplexes Dilemma, das sowohl technische als auch rechtliche Überlegungen erfordert und das Potenzial hat, die Art und Weise, wie wir über KI und Recht denken, grundlegend zu verändern.

AGB in der KI-Welt: Ein Balanceakt zwischen Schutz und Haftung

Traditionell sind Softwareentwickler und SaaS-Anbieter für die Ergebnisse ihrer Produkte verantwortlich. Sie können ihre Haftung nur in begrenztem Maße ausschließen. Doch in der Ära der Künstlichen Intelligenz betreten wir Neuland. Bei KI-Systemen, insbesondere solchen, die auf komplexen Algorithmen und maschinellem Lernen basieren, sind die Ergebnisse von Natur aus unvorhersehbar. Dies stellt die traditionellen rechtlichen Rahmenbedingungen in Frage.

Es ist nicht nur eine Frage der Haftung, sondern auch der Transparenz und Aufklärung gegenüber den Nutzern. Wenn ein KI-System beispielsweise eine Entscheidung trifft, die auf einer Wahrscheinlichkeit basiert und nicht auf festen Regeln, inwieweit muss der Anbieter den Nutzer darüber informieren? Und wie detailliert muss diese Information sein?

Darüber hinaus könnten herkömmliche AGBs, die für standardisierte Softwareprodukte oder Dienstleistungen entwickelt wurden, für KI-Produkte nicht mehr ausreichend sein. Es könnte notwendig werden, spezifische Klauseln oder Abschnitte hinzuzufügen, die die Besonderheiten und potenziellen Risiken von KI berücksichtigen. Dies könnte auch bedeuten, dass Anbieter ihre Kunden aktiv über die Grenzen und die Natur der von ihnen verwendeten KI-Technologien aufklären müssen.

Insgesamt steht die Rechtsbranche vor der Herausforderung, die traditionellen rechtlichen Konzepte an die dynamische und oft schwer fassbare Welt der KI anzupassen. Es wird spannend sein zu beobachten, wie sich diese Diskussion in den kommenden Jahren entwickelt und welche neuen Bestimmungen und Praktiken sich durchsetzen werden.

Das Dilemma der Haftung: Wer trägt die Verantwortung?

Wenn ein KI-System einen Fehler macht, der zu rechtlichen Problemen führt, wer ist dann verantwortlich? Der Programmierer, der das System entwickelt hat? Der Anbieter, der die KI bereitstellt? Oder der Endbenutzer, der die KI verwendet? Dieses Dilemma ist besonders relevant, wenn die grundlegende Logik des Systems es nicht erlaubt, das Ergebnis vorherzusagen.

Die Komplexität dieser Rechtsfragen nimmt jedoch weiter zu, wenn man in Betracht zieht, wie KI-Systeme in der Praxis eingesetzt werden könnten. Stellen Sie sich vor, ein Unternehmen nutzt nicht direkt eine eigene KI, sondern greift über eine API auf eine fremde KI zu, wie es beispielsweise bei ChatGPT der Fall ist. In solch einem Szenario könnten mehrere Parteien beteiligt sein: der Entwickler der ursprünglichen KI, der Anbieter der API, der Dienstleister, der die KI in seine eigene Plattform integriert, und schließlich der Endbenutzer. Wer haftet in einem solchen komplexen Netzwerk, wenn etwas schief geht?

Die Frage der Haftung innerhalb einer solchen Vertragskette wird zu einem zentralen Anliegen. Es könnte Situationen geben, in denen mehrere Parteien teilweise haftbar sind oder in denen die Haftung von einer Partei zur nächsten weitergegeben wird. Dies könnte zu komplizierten rechtlichen Auseinandersetzungen führen, insbesondere wenn grenzüberschreitende Aspekte ins Spiel kommen.

Es ist offensichtlich, dass die traditionellen rechtlichen Rahmenbedingungen und Vertragsstrukturen überdacht und angepasst werden müssen, um den einzigartigen Herausforderungen und Komplexitäten gerecht zu werden, die durch den Einsatz von KI-Technologien entstehen. Es wird entscheidend sein, klare und verständliche Vertragsbedingungen zu schaffen, die die Rechte und Pflichten aller beteiligten Parteien klar definieren.

Zukunftsperspektiven: Ein offenes und diskussionswürdiges Thema

Es ist klar, dass die Frage der Haftung in der KI ein komplexes und umstrittenes Thema ist, das in den kommenden Jahren intensiv diskutiert werden wird. Während einige argumentieren, dass traditionelle Haftungsregeln ausreichen, glauben andere, dass ein neuer rechtlicher Rahmen erforderlich ist, um den einzigartigen Herausforderungen der KI gerecht zu werden.

Abschließend lässt sich sagen, dass die Unvorhersehbarkeit von KI-Ergebnissen sowohl für Juristen als auch für Technologieexperten ein spannendes und herausforderndes Thema darstellt. Es bleibt abzuwarten, wie Gerichte und Gesetzgeber auf diese Herausforderung reagieren werden. Eines ist jedoch sicher: Die Diskussion hat gerade erst begonnen.

Obwohl heute Samstag ist und viele ihre Freizeit genießen, fühlte ich das Bedürfnis, diese Gedanken einmal zu „Papier“ zu bringen. Wer sagt, dass Wochenenden nur zum Entspannen da sind? 😉

Author: Marian Härtel

Marian Härtel ist Rechtsanwalt und Fachanwalt für IT-Recht mit einer über 25-jährigen Erfahrung als Unternehmer und Berater in den Bereichen Games, E-Sport, Blockchain, SaaS und Künstliche Intelligenz. Seine Beratungsschwerpunkte umfassen neben dem IT-Recht insbesondere das Urheberrecht, Medienrecht sowie Wettbewerbsrecht. Er betreut schwerpunktmäßig Start-ups, Agenturen und Influencer, die er in strategischen Fragen, komplexen Vertragsangelegenheiten sowie bei Investitionsprojekten begleitet. Dabei zeichnet sich seine Beratung durch einen interdisziplinären Ansatz aus, der juristische Expertise und langjährige unternehmerische Erfahrung miteinander verbindet. Ziel seiner Tätigkeit ist stets, Mandanten praxisorientierte Lösungen anzubieten und rechtlich fundierte Unterstützung bei der Umsetzung innovativer Geschäftsmodelle zu gewährleisten.