KI-Haftung: Risiken im Vertrieb durch KI-Agenten | IT-Medienrecht

Ein Satz, der in jedem Geschäftsführungsbüro sofort Alarm auslösen sollte

"Über Nacht" hat die Vertriebs-KI eines Mandanten einem Kunden 14.000 Euro Rabatt zugesagt.

Dies geschah nicht als interne Notiz oder als bloßer Vorschlag. Vielmehr war es eine direkte Aussage gegenüber einem Kunden, die im Chat-Verlauf dokumentiert, per Screenshot abrufbar und im Zweifel vor Gericht verwertbar ist.

Der Rabatt sollte nie gewährt werden. Dennoch hatte das System ihn zugesagt.

• Irreführende Kommunikation
• Bindungsfragen
• Zurechnung
• Organisationsverschulden
• Haftungsfolgen
• Abwehr von Ansprüchen
• Massiver Vertrauensschaden beim Kunden

Genau an dieser Stelle beginnt die juristische Realität von KI-Agenten und Chatbots im Vertrieb.

Die juristische Frage: Hat die KI einen Fehler gemacht?

Die juristische Frage lautet nicht, ob die Maschine "einen Willen" hatte. Eine KI ist keine Person. Sie ist nicht rechtsfähig und kein Träger eigener Rechte und Pflichten.

Entscheidend ist vielmehr, ob und wie die vom System erzeugte Erklärung dem Unternehmen zugerechnet wird.

Dies ist die Kernfrage in jedem Fall, in dem ein KI-Agent mit Kunden spricht, Angebote formuliert, Zusagen macht, Vertragsinhalte andeutet, Terminverschiebungen kommuniziert, Rabatte verspricht oder Leistungsumfänge beschreibt.

Anders gesagt: Die KI ist nicht der Schuldige im Rechtssinn. Sie ist das Werkzeug. Das Problem liegt bei demjenigen, der das Werkzeug einsetzt, es steuert, es in den Außenkontakt schickt und davon ausgeht, dass es sich schon irgendwie richtig verhalten werde.

Wer einen KI-Agenten in den Vertrieb lässt, setzt kein neutrales Textfeld ein. Stattdessen nutzt er eine Kommunikationsinstanz, die im Namen des Unternehmens mit Dritten interagiert. Genau daraus folgt die Haftungsfrage.

Der Rabatt-Fall: Mehr als ein technischer Ausrutscher

Ein Rabatt von 14.000 Euro ist juristisch betrachtet weit mehr als ein unglücklicher Ausreißer in einem Chatlog. Er ist ein Symptom für typische KI-Risiken.

Denn der Vorfall zeigt gleich mehrere Ebenen eines solchen Risikos auf:

1. Das System kommuniziert nach außen.
2. Die Kommunikation hat wirtschaftliche Bedeutung.
3. Der Empfänger verlässt sich auf die Aussage.
4. Das Unternehmen merkt den Fehler oft erst später.
5. Im Streitfall existiert eine Dokumentation, die gegen das Unternehmen spricht.

Gerade im Vertrieb ist dies besonders heikel. Hier werden oft nicht nur Informationen, sondern konkrete geschäftliche Erwartungen erzeugt. Ein Chatbot, der lediglich FAQs beantwortet, ist rechtlich schon nicht trivial. Ein Agent, der Preise nennt, Konditionen erläutert, Sonderfälle bewertet oder Rabattlogiken simuliert, bewegt sich in einer anderen Risikoklasse.

Die relevante Frage ist dann nicht mehr: "Wie nett ist das Tool?", sondern: "Welche rechtliche Außenwirkung erzeugt es?"

Aktueller Trend: Gerichte schauen auf Funktion, nicht auf Etikett

Die Diskussion um KI-Haftung ist häufig von großen Schlagworten geprägt: Black Box, Autonomie, Halluzination, Lernmodell, Anbieterrolle, Betreiberrolle.

Für die Praxis ist jedoch etwas anderes entscheidend: Gerichte orientieren sich zunehmend an der Funktion des Systems und an der Kontrolle des Unternehmens. Die technische Selbstbeschreibung der Software tritt in den Hintergrund.

Dies passt auch zu der Linie, die sich in der jüngeren Rechtsprechung zu KI-Chatbots abzeichnet. Besonders wichtig ist dabei die Richtung, die sich aus dem Urteil des OLG Hamm zur Haftung eines Chatbots ableiten lässt.

Nach den nun vorliegenden Gründen hat der Senat im Kern gesagt:

• Chatbot-Ausgaben sind dem Betreiber als eigene geschäftliche Handlung zuzurechnen.
• Der Chatbot ist kein selbstständiger Dritter, sondern ein technisches Mittel der Kundenkommunikation.
• Auch richtige Trainingsdaten befreien nicht von der Verantwortung für halluzinierte oder falsche Ausgaben.
• Wer den Chatbot vor der Inbetriebnahme einsetzt, muss antizipieren, welche Fragen Nutzer stellen könnten und welche falschen Antworten entstehen können.

Dies ist eine bemerkenswert klare Aussage. Sie ist für Unternehmen, die KI im Vertrieb, im Support, in der Beratung oder in der Lead-Qualifizierung einsetzen, von erheblicher Tragweite.

Das Black-Box-Argument hilft wenig

Ein verbreitetes Verteidigungsnarrativ lautet oft: "Die Ausgabe war technisch nicht vorhersehbar" oder "Das Modell arbeitet probabilistisch, also war die konkrete Fehlantwort nicht vorhersehbar." Noch drastischer ist das Argument: "Die Black Box entzieht sich unserer Kontrolle."

Dieses Argument verfängt in der Regel nicht, wenn das Unternehmen das System bewusst in den Außenkontakt stellt. Haftungsfragen beginnen nicht erst dort, wo eine Antwort im Einzelnen statistisch ableitbar ist.

Sie beginnen bereits dort, wo ein Unternehmen ein System in eine Umgebung bringt, in der falsche Antworten absehbar sind und geschäftliche Relevanz entfalten können. Wer den Einsatz eines Chatbots veranlasst, muss mit Fehlleistungen rechnen. Das gilt besonders, wenn sensible oder reputationsrelevante Aussagen getroffen werden.

Ein Unternehmen kann sich nicht auf die technische Intransparenz zurückziehen und gleichzeitig die Vorteile der Automatisierung vereinnahmen. Dies ist rechtlich und wirtschaftlich kein tragfähiges Modell.

Steuerbarkeit als entscheidender Punkt

Das OLG Hamm hat nach dem bekannten Sachverhalt auch darauf abgestellt, dass der Betreiber den Chatbot nach der Beanstandung ohne Weiteres anpassen konnte. Dies war beispielsweise durch Prompt-Vorgaben oder Keyword-Filter möglich.

Genau darin liegt der praktische Kern: Wer ein System so stark steuern kann, dass es sich per Konfiguration gezielt in bestimmte Bahnen lenken lässt, trägt typischerweise auch Verantwortung für dessen Einsatz.

Dies ist nicht nur ein technisches Detail, sondern ein haftungsrechtliches Signal. Steuerbarkeit ist das Gegenteil von rechtlicher Entlastung. Wenn ein Unternehmen den Tätigkeitsrahmen definiert, die Antworten kanalisiert, Themenbereiche freigibt oder sperrt und den Bot als Teil seines Kommunikationssystems nutzt, dann wird aus dem Tool eine Organisationsentscheidung.

Und Organisationsentscheidungen sind rechtlich selten folgenlos.

Warum KI-Agenten im Vertrieb besonders gefährlich sind

Viele Unternehmen unterscheiden noch immer zwischen "Chatbot" und "Agent". Aus rechtlicher Sicht ist dies oft zu kurz gedacht.

Ein einfacher FAQ-Bot beantwortet statische Fragen. Ein Vertriebs-Agent hingegen kann:

• Leads qualifizieren
• Produktmerkmale erklären
• Preise nennen
• Rabatte anbieten
• Zahlungsziele kommunizieren
• Verfügbarkeiten bestätigen
• Eskalationen verarbeiten
• Terminabsprachen treffen
• Angebote vorbereiten
• Kundendialoge fortsetzen

Je mehr ein System in diese Richtung geht, desto stärker nähert es sich einer extern wahrnehmbaren Unternehmenskommunikation an. Nicht die technische Bezeichnung ist entscheidend, sondern die Rolle im Geschäftsprozess.

Ein KI-Agent, der im Namen des Unternehmens spricht, ist rechtlich näher an einem Kommunikationsorgan als an einem bloßen Softwaremodul. Deshalb entstehen Risiken dort, wo Unternehmen sie oft am wenigsten erwarten: im Vertrieb, in der Angebotsphase, in der Preiskommunikation und im After-Sales.

Die klassische Falle: "Wir haben das doch intern getestet"

Ein weiteres Standardargument lautet: "Wir haben das vor dem Start geprüft", "Die Trainingsdaten waren sauber" oder "In unseren Tests trat der Fehler nicht auf."

Dies mag technisch interessant sein. Juristisch ist es jedoch häufig nicht ausreichend. Ein fehlerfreier Testlauf ersetzt nicht die Pflicht, das System für den realen Kommunikationskontext zu begrenzen.

Ein Modell kann in kontrollierten Tests korrekt wirken und im Live-Betrieb trotzdem unzulässige oder wirtschaftlich gefährliche Antworten erzeugen.

Die entscheidende Frage ist nicht nur, ob das Tool grundsätzlich funktioniert. Die Fragen lauten vielmehr:

• Welche Antworten dürfen überhaupt nach außen gehen?
• Welche Aussagen müssen ausgeschlossen werden?
• Welche Freigabeschwellen gibt es?
• Wer überwacht die Kommunikation?
• Wie wird dokumentiert?
• Was passiert bei Abweichungen?
• Welche Eskalation greift, wenn das System außerhalb definierter Regeln arbeitet?

Wer darauf keine belastbare Antwort hat, hat rechtlich ein Problem.

Praktische Implikationen für die Unternehmenspraxis

Die gute Nachricht ist: KI im Vertrieb ist nicht verboten. Die schlechte Nachricht: Wer sie blind einsetzt, bekommt das Haftungsrisiko gratis dazu.

In der Praxis sollten Unternehmen mindestens die folgenden Punkte prüfen:

Kommunikationsgrenzen festlegen

Ein KI-Agent darf nicht alles. Besonders kritisch sind Aussagen zu:

• Preisen und Rabatten
• Vertragsbindung
• Verfügbarkeit
• Leistungsumfang
• Garantien
• Fachkompetenzen
• Heilversprechen oder gesundheitsbezogenen Aussagen
• rechtlicher Verbindlichkeit

Je sensibler die Aussage, desto enger muss die Freigabe sein.

Außenwirkung technisch begrenzen

Nicht jeder Bot braucht freie Formulierung. Sinnvoll sind etwa:

• feste Antwortbausteine
• eingeschränkte Themenräume
• Retrieval nur aus freigegebenen Inhalten
• harte Sperren für bestimmte Schlüsselbegriffe
• Eskalation an Menschen bei Unsicherheit
• Logging aller kritischen Gespräche

Human-in-the-loop ernst nehmen

Wenn die Kommunikation geschäftlich relevant ist, sollte ein Mensch nicht nur "irgendwie erreichbar" sein. Er sollte aktiv eingebunden werden, bevor das System verbindlich werden kann.

Haftung vertraglich absichern

Gerade bei selbst entwickelten Lösungen oder externen Integrationen muss die Verantwortung zwischen Unternehmen, IT-Dienstleister, KI-Anbieter und ggf. Agentur sauber verteilt werden. Wer nur technisch implementiert, aber rechtlich nicht regelt, baut ein Risiko auf.

Reaktionsplan für Fehlkommunikation

Wenn der Bot etwas Falsches gesagt hat, muss klar sein:

• Wer wird informiert?
• Wie wird der Kunde angesprochen?
• Wie wird die Aussage korrigiert?
• Was passiert bei bereits dokumentierten Zusagen?
• Welche internen Nachweise werden gesichert?

Wer hier improvisiert, verliert Zeit, Geld und im Zweifel Glaubwürdigkeit.

Wo die Beratung im Einzelfall ansetzen muss

Gerade bei intelligenten Assistenten und selbst entwickelten KI-Lösungen reicht Standardrecht nicht aus. Die Fragen sind häufig sehr technisch und zugleich sehr juristisch:

• Ist das System bloß ein Informationswerkzeug oder bereits ein Kommunikations- und Entscheidungsinstrument?
• Ist der Betreiber Anbieter, Nutzer, Integrator oder nur Kunde des Modells?
• Welche Verantwortung ergibt sich aus der konkreten Konfiguration?
• Welche Aussagen dürfen automatisiert rausgehen?
• Wie weit reicht die Zurechnung bei Halluzinationen?
• Welche Rolle spielen Training, Prompting, Guardrails und Monitoring?
• Welche Pflichten folgen aus UWG, Vertragsrecht, Datenschutz, Produkthaftung oder Organisationspflichten?

Genau in diesem Spannungsfeld arbeite ich in der Praxis regelmäßig mit Unternehmen, die KI im Vertrieb, in der Kundenkommunikation oder bei digitalen Geschäftsmodellen einsetzen.

Das Entscheidende ist nicht, die Technik zu verteufeln. Vielmehr gilt es, sie rechtlich so einzuhegen, dass sie wirtschaftlich nutzbar bleibt, ohne die Geschäftsführung nachts mit einem Screenshot und einem neuen Haftungsfall zu konfrontieren.

Warum das Urteil des OLG Hamm über den Einzelfall hinaus wichtig ist

Das OLG Hamm-Urteil ist nicht nur für Kliniken relevant, auf deren Fall es sich bezog. Die Argumentation lässt sich auf viele Konstellationen übertragen:

• Webseiten-Chatbots
• Support-Bots
• Sales-Assistants
• Konfiguratoren mit KI-Komponente
• interne Agenten mit Außenwirkung
• automatisierte Angebotsprozesse
• Webcoding-Assistenten mit Kundenkontakt
• juristische Vorprüfungs-Tools für Unternehmen

Überall dort, wo ein System nach außen kommuniziert, wird aus Effizienz schnell Verantwortung. Gerade im B2B-Bereich ist die Versuchung groß, KI als "nur internes Tool" zu behandeln, obwohl sie faktisch Außenkommunikation erzeugt.

Doch die Rechtsordnung schaut nicht auf die interne Beschriftung. Sie schaut auf die Wirkung.

Der praktische Rat: KI nicht nur einführen, sondern begrenzen

Wer KI einsetzen will, sollte nicht nur fragen: "Was kann das System?". Sondern vor allem:

• Was darf es nicht?
• Wo endet seine Kommunikationsbefugnis?
• Welche Aussagen sind tabu?
• Wie wird ein Fehlverhalten erkannt?
• Wer trägt die Verantwortung?
• Welche Dokumentation gibt es?

Die richtige Antwort auf KI-Haftung ist nicht Verzicht. Sie ist Governance. Und Governance bedeutet, technische Möglichkeiten mit rechtlichen Grenzen zu verbinden.

Genau dort liegt der Unterschied zwischen einem Produktivitätsgewinn und einem späteren Abmahn-, Haftungs- oder Reputationsproblem.

Fazit: Wer Risiken schafft, muss sie kontrollieren

Der Vertrieb der Zukunft wird ohne KI kaum auskommen. Doch wer KI-Agenten und Chatbots im Kundenkontakt einsetzt, muss verstehen: Die Maschine haftet nicht. Das Unternehmen schon.

Die juristische Bewertung läuft nicht über Maschinenbewusstsein, sondern über Zurechnung, Steuerung, Organisationsverantwortung und die Frage, welche geschäftliche Wirkung eine automatisierte Aussage entfaltet.

Der 14.000-Euro-Rabatt ist deshalb nicht nur eine Panne, sondern eine Warnung. Das OLG Hamm zeigt: Wer Risiken schafft, muss sie beherrschen.

Wer einen Chatbot oder KI-Agenten im Vertrieb, in der Kundenkommunikation oder auf der Website einsetzt, sollte seine Grenzen deshalb sehr genau kennen, technisch wie rechtlich.

Wenn Sie einen solchen Einsatz planen oder bereits produktiv nutzen und unsicher sind, wo die Grenzen liegen, helfe ich Ihnen gern bei der rechtlichen Einordnung, der Haftungsbegrenzung und der konkreten Gestaltung.

Gerade bei selbst programmierten KI-Lösungen, Web-Agents und komplexen Automatisierungen lohnt sich eine frühe Prüfung. Spätere Korrekturen sind fast immer teurer als saubere Weichenstellungen zu Beginn.

Wenn Sie ähnliche Fragen haben oder Ihren KI-Agenten rechtlich einhegen möchten, sprechen Sie mich gerne an.