KI-Agenten als autonome Vertragspartner? | IT-Medienrecht

Manchmal lohnt es sich, juristisch einen Schritt nach vorne zu denken. Die Praxis ist oft schon weiter als viele dogmatische Diskussionen.

Bereits heute verhandeln KI-Agenten in SaaS-Systemen eigenständig Preise mit Lieferanten-APIs. In E-Commerce-Systemen passen autonome Systeme Rabattlogiken dynamisch an. Auch Beschaffungsprozesse werden durch KI optimiert: Angebote werden automatisch eingeholt, verglichen und technisch akzeptiert. Unternehmen delegieren operative Entscheidungen zunehmend an KI-basierte Agenten, die nicht nur analysieren, sondern direkt handeln.

Daraus ergibt sich eine zentrale Frage: Wenn ein KI-Agent eine Entscheidung trifft, wie ist dies rechtlich zu bewerten? Ist der KI-Agent ein Vertragspartner, ein Vertreter oder lediglich ein Werkzeug? Und wer trägt die Verantwortung, wenn das System falsch agiert?

Diese Herausforderungen sind kein Science-Fiction, sondern ein klassisches zivilrechtliches Zurechnungsproblem. Dieser Artikel beleuchtet die rechtliche Zurechnung von KI-Agenten und die damit verbundene Haftung.

Rechtliche Zurechnung von KI-Agenten: Haftung und Verantwortung im digitalen Wandel

KI als Werkzeug: Keine eigene Rechtspersönlichkeit

Eine KI ist keine Rechtsperson. Weder das deutsche Zivilrecht noch das europäische Recht erkennen autonomen Systemen eine eigene Rechtspersönlichkeit zu. Der KI-Agent ist somit kein "elektronischer Vertragspartner".

Rechtsgeschäfte setzen eine Willenserklärung voraus. Diese wird nach herrschender Meinung als Ausdruck eines menschlichen Willens verstanden. Eine KI verfügt nicht über Rechtsfähigkeit, Geschäftsfähigkeit oder Deliktsfähigkeit. Sie kann daher selbst keine Trägerin von Rechten und Pflichten sein.

Die eigentliche Frage ist demnach nicht, ob die KI handelt, sondern wem ihr Handeln zugerechnet wird. Hier beginnt die juristische Feinmechanik.

Stellvertretung und Zurechnung bei KI-Systemen (§§ 164 ff. BGB)

Das Stellvertretungsrecht bietet einen wichtigen dogmatischen Anknüpfungspunkt. Nach § 164 Abs. 1 BGB wirkt eine Willenserklärung, die jemand innerhalb seiner Vertretungsmacht im Namen eines anderen abgibt, unmittelbar für und gegen den Vertretenen.

Klassischerweise ist der Vertreter eine natürliche Person. Das Gesetz verlangt jedoch nicht zwingend die Geschäftsfähigkeit des Vertreters. Entscheidend ist das Handeln im Namen des Vertretenen und die daraus folgende Zurechnung.

KI-Agent als Bote oder Vertreter?

Bei automatisierten Systemen wird oft argumentiert, es handele sich lediglich um einen „Boten“ oder ein technisches Werkzeug. Diese Sicht greift jedoch zu kurz, wenn das System eigenständig Parameter auswählt, Preise modifiziert oder Vertragskonditionen anpasst.

Je stärker die Autonomie des Systems ist, desto weniger passt das Bild des bloßen Übermittlers. Dogmatisch lässt sich das Problem so lösen: Der KI-Agent ist kein eigener Vertreter, sondern Teil der Organisationssphäre des Unternehmens. Die Willenserklärung wird dem Unternehmen zugerechnet, da es das System eingerichtet, parametrisiert und in den Rechtsverkehr entlassen hat.

Dies ist keine Analogie, sondern eine Fortführung der Rechtsprechung zu automatisierten Erklärungen, beispielsweise bei Warenautomaten oder Online-Shops. Wer ein System in den Verkehr bringt, muss sich dessen Erklärungen zurechnen lassen. Die Autonomie ändert daran nichts, sie erhöht lediglich das Risiko.

Anscheins- und Duldungsvollmacht: Wenn KI-Agenten Grenzen überschreiten

Besonders spannend wird es, wenn KI-Agenten über die ursprünglich vorgesehenen Grenzen hinaus agieren. Was passiert, wenn ein KI-System Rabatte gewährt, die so nie beabsichtigt waren? Oder Vertragslaufzeiten verlängert, obwohl interne Richtlinien dies verbieten? Oder eigenständig Zusatzleistungen anbietet?

Hier kommen die Grundsätze der Anscheins- und Duldungsvollmacht ins Spiel.

• Eine Duldungsvollmacht liegt vor, wenn der Vertretene weiß, dass jemand für ihn wie ein Vertreter auftritt, und dies geschehen lässt.
• Eine Anscheinsvollmacht greift, wenn er das Auftreten zwar nicht kennt, es aber bei pflichtgemäßer Sorgfalt hätte erkennen und verhindern können.

Überträgt man diese Grundsätze auf KI-Systeme, wird das Bild klar: Wer ein autonomes System mit weitreichenden Befugnissen ausstattet und es dauerhaft in den Rechtsverkehr einsetzt, setzt einen Rechtsschein. Der Vertragspartner darf regelmäßig darauf vertrauen, dass das System im Rahmen der ihm eingeräumten Kompetenzen handelt. Interne Programmierfehler oder schlecht definierte Parameter entlasten das Unternehmen nicht.

Rechtlich gesprochen: Die Autonomie des Systems wird zum Organisationsrisiko.

Organisationsverschulden: Haftung bei Fehlentscheidungen von KI-Systemen

Dies führt unmittelbar zum Organisationsverschulden. Unternehmen sind verpflichtet, ihre internen Abläufe so zu organisieren, dass Rechtsverletzungen vermieden werden. Wer KI-Agenten einsetzt, erweitert die eigene Organisationsstruktur um ein technisches Entscheidungssystem.

Fehlentscheidungen von KI-Systemen können verschiedene Ursachen haben:

• fehlerhafte Trainingsdaten
• mangelhafte Parametrisierung
• fehlende Kontrollmechanismen
• unzureichende Überwachung
• unklare Zuständigkeiten

Kommt es infolge solcher Defizite zu Schäden, haftet das Unternehmen nach allgemeinen Grundsätzen. Eine Exkulpation mit dem Argument „Das war die KI“ ist rechtlich irrelevant. Im Gegenteil: Je komplexer das System, desto höher sind die Anforderungen an Überwachung und Governance.

Gerade bei autonomen Preisanpassungen oder automatisierten Vertragsabschlüssen ist eine klare Definition von Entscheidungsgrenzen zwingend. Andernfalls entsteht ein Haftungsregime, das faktisch nicht kontrollierbar ist.

Produkthaftung und Regress bei KI-Softwarefehlern

Ein weiterer wichtiger Aspekt betrifft die Haftung für fehlerhafte KI-Software. Hierbei ist zu unterscheiden zwischen:

• interner Eigenentwicklung,
• dem Einsatz externer SaaS-Lösungen und
• der Integration von Dritt-APIs.

Kommt es aufgrund eines Softwarefehlers zu einem wirtschaftlichen Schaden, stellt sich die Frage nach den Regressketten. Bei Eigenentwicklung haftet das Unternehmen unmittelbar. Bei Drittanbietern greifen vertragliche Haftungsregelungen, Service Level Agreements und Gewährleistungsrechte. In komplexen KI-Ökosystemen sind diese Haftungsketten jedoch häufig intransparent.

Sonderfall: AI-Agents-as-a-Service

Besonders sensibel ist die Situation bei sogenannten AI-Agents-as-a-Service. Hier übernimmt ein externer Anbieter die technische Steuerung, während das einsetzende Unternehmen gegenüber dem Kunden als Vertragspartner auftritt. Rechtlich bleibt das Außenverhältnis entscheidend. Der Kunde hat regelmäßig nur einen Anspruchsgegner: das Unternehmen, das den KI-Agenten einsetzt.

AI Act-Compliance: Eine neue Organisationspflicht für Unternehmen

Mit dem europäischen AI Act verschiebt sich die Diskussion zusätzlich. Der AI Act führt ein risikobasiertes Regime ein, das insbesondere bei Hochrisiko-Systemen strenge Anforderungen an Transparenz, Dokumentation und Risikomanagement stellt.

Für autonome KI-Agenten in Vertrags- oder Entscheidungsprozessen kann je nach Einsatzbereich eine Hochrisiko-Einstufung relevant werden. Dann gelten unter anderem:

• Dokumentationspflichten
• Risikoanalysen
• menschliche Aufsicht
• Nachvollziehbarkeit der Entscheidungen

Verstöße gegen diese Pflichten können nicht nur bußgeldbewehrt sein, sondern im Haftungsprozess als Indiz für Organisationsverschulden gewertet werden. AI Act-Compliance ist damit nicht nur regulatorische Pflicht, sondern auch eine wichtige haftungsrechtliche Absicherung.

Zukunftsmusik oder gelebte Gegenwart?

Ist das alles noch Zukunftsmusik? Nur teilweise. Die technische Entwicklung schreitet schneller voran als die juristische Einordnung. Autonome Verhandlungssysteme, dynamische Vertragsmodelle und KI-gestützte Einkaufsagenten sind keine theoretischen Konstrukte mehr, sondern bereits Realität.

Das Recht reagiert darauf nicht mit völlig neuen Rechtsfiguren, sondern mit klassischen Instrumenten:

• Zurechnung
• Organisationsverantwortung
• Vertrauensschutz
• Haftung

Das bedeutet auch: Es wird keine „KI-Ausnahme“ geben. Unternehmen bleiben weiterhin voll verantwortlich.

Vertragsgestaltung zur Risikobegrenzung beim Einsatz von KI-Agenten

Wer KI-Agenten einsetzt, sollte die rechtlichen Rahmenbedingungen nicht dem Zufall überlassen. Im B2B-Kontext sind insbesondere folgende Punkte relevant:

• klare Definition des Automatisierungsgrades
• Haftungsbegrenzungen
• Transparenz über den KI-Einsatz
• Protokollierung von Entscheidungen
• Regressregelungen bei Drittanbietern

Auch AGB-Klauseln sollten angepasst werden. Die Frage, ob Vertragsabschlüsse automatisiert erfolgen, kann im Einzelfall eine Informationspflicht begründen. Gleichzeitig sind Haftungsbeschränkungen sorgfältig zu formulieren, um AGB-rechtlichen Risiken zu begegnen.

Je autonomer das System, desto wichtiger ist die juristische Architektur im Hintergrund.

Fazit

KI-Agenten werden nicht zu Vertragspartnern. Sie bleiben Werkzeuge, wenn auch hochkomplexe. Rechtlich entscheidend ist nicht ihre technische Autonomie, sondern die organisatorische Einbindung in Unternehmen.

Unternehmen, die autonome Systeme einsetzen, erweitern ihre Handlungssphäre und schaffen neue Entscheidungsinstanzen innerhalb ihrer Organisation. Sie tragen damit das Risiko dieser Entscheidungen.

Auch wenn das Thema dogmatisch unspektakulär wirken mag, ist es wirtschaftlich hochrelevant. Mit jedem Schritt in Richtung autonomer Geschäftsprozesse steigt die Bedeutung einer sauberen Zurechnung, klarer Governance und durchdachter Vertragsgestaltung. Dies zeigt, wie klassisches Zivilrecht auf neue Technologien trifft und warum juristische Strukturierung eine Voraussetzung für Innovation ist.