Wer KI-Agenten einsetzt, kann Aufgaben abgeben, die Verantwortung für KI jedoch nicht. Denn wenn ein System einem Kunden etwas Falsches zusagt, muss am Ende ein Mensch erklären, wie es dazu kam. Kaum ein Fall zeigt das so deutlich wie ein Rechtsstreit zwischen einem trauernden Enkel und Air Canada.
Ein Trauerfall und eine falsche Auskunft
Im November 2022 stirbt die Großmutter von Jake Moffatt aus Vancouver, und er muss kurzfristig nach Toronto. Auf der Website von Air Canada fragt er den Chatbot, ob es einen ermäßigten Tarif für Trauerfälle gibt. Die Antwort lautet: Ja, den Rabatt könne er bis zu 90 Tage nach dem Ticketkauf beantragen.
Also bucht er zum vollen Preis und stellt anschließend den Antrag. Air Canada lehnt jedoch ab. Der Chatbot habe sich geirrt, und die richtige Regel stehe auf einer anderen Seite der Website.
Das Argument, das um die Welt ging
Vor dem Civil Resolution Tribunal in British Columbia, einem Online-Gericht für kleinere Streitfälle, brachte die Airline dann ein erstaunliches Argument vor. Der Chatbot sei eine eigenständige rechtliche Einheit und für sein Handeln selbst verantwortlich. In 30 Jahren Krisenkommunikation habe ich so etwas noch nicht gehört.
Das Tribunal bezeichnete diese Einlassung als bemerkenswert. Im Februar 2024 musste Air Canada dem Kunden rund 800 kanadische Dollar zahlen.
Rechnen wir kurz nach: Für einen Streitwert von 800 Dollar ging eine Schlagzeile um die Welt, in der eine nationale Fluggesellschaft erklärte, sie sei für ihre eigene Website nicht zuständig. Deutlich günstiger wäre es gewesen, dem Mann die Differenz einfach zu erstatten.
Wenn der KI-Chatbot falsche Zusagen macht, bleibt die Verantwortung beim Unternehmen – und ein Mensch muss dafür geradestehen. Foto: ChatGPT
Verantwortung für KI: Delegieren ja, abschieben nein
Mit KI-Agenten werden solche Situationen häufiger. Schließlich beantworten diese Systeme Anfragen, erstellen Angebote und sagen Konditionen zu.
Ich baue gerade selbst solche Agenten auf, und zwar für unser CRM, für Angebote und für die Reisekostenabrechnung. Die ersten Entscheidungen dabei waren allerdings keine technischen. Oberste Regel ist bei uns die Sicherheit.
Deshalb hat unsere KI keinen Zugriff auf unsere E-Mails. Stattdessen erhält sie die Daten nur als Kopie auf einem eigenen Server. Dort darf sie vorbereiten, durchrechnen und Vorschläge machen. Versenden darf sie hingegen nichts, und entscheiden ebenso wenig.
Ja, das ist langsamer, als es sein könnte. Genau so will ich es aber haben.
Aufgaben lassen sich delegieren, die Verantwortung bleibt trotzdem beim Unternehmen. Wer am Ende haftet, ist im Einzelfall eine juristische Frage. Wer es erklären muss, ist dagegen keine.
Ein verärgerter Kunde will nämlich nicht wissen, welches Sprachmodell im Einsatz war. Er will wissen, warum das passiert ist, wer es zugelassen hat und wie Sie verhindern, dass es sich wiederholt. Wer darauf keine klare Antwort hat, macht aus einem technischen Fehler eine Vertrauenskrise. Air Canada hat genau das vorgeführt.
Regeln auf Papier reichen nicht
Im September veröffentlichte EY eine Befragung von 202 KI-Verantwortlichen aus Unternehmen mit mehr als einer Milliarde Dollar Umsatz. Demnach haben 98 Prozent formale Governance-Regeln. Allerdings geben 47 Prozent an, dass diese Regeln bei dringenden Projekten bereits ausgesetzt wurden. Und 36 Prozent hatten schon einen KI-Vorfall mit spürbar negativen Folgen.
Fast jedes Unternehmen hat also Regeln. Jedes zweite setzt sie aber aus, sobald es eilig wird.
Aus der Krisenkommunikation kenne ich dieses Muster gut. Das Krisenhandbuch steht im Schrank. Ob tatsächlich jemand weiß, was zu tun ist, zeigt sich jedoch erst um 7:40 Uhr am Morgen danach.
Drei Fragen vor dem nächsten KI-Projekt
- Wer entscheidet wirklich? Was darf das System allein, wo muss ein Mensch drüberschauen, und wer trägt für welchen Prozess die Verantwortung? Klären Sie das vorher, nicht hinterher.
- Können Sie es in drei Sätzen erklären? Und zwar einem Kunden, dem eine automatische Entscheidung geschadet hat. Gelingt Ihnen das nicht, haben Sie ein Kommunikationsproblem.
- Wer sagt was, wenn es schiefgeht? Bereiten Sie Botschaften vor, spielen Sie Szenarien durch und legen Sie Sprecher fest. Dabei hilft der G.A.M.E.-Code: Goal, Analysis der Zielgruppe, Message und Extras.
Kein Grund, auf KI-Agenten zu verzichten
Damit kein falscher Eindruck entsteht: Ich halte nichts davon, KI-Agenten aus Angst vor Fehlern gar nicht erst einzusetzen. Auch Menschen im Kundenservice irren sich. Der Unterschied liegt woanders. Für den Fehler eines Mitarbeiters entschuldigt sich das Unternehmen. Air Canada versuchte dagegen, den Fehler beim Werkzeug abzuladen.
Eine KI kann eine Entschuldigung formulieren. Aussprechen muss sie aber ein Mensch.
Wenn morgen Ihr System einem Kunden etwas Falsches zusagt: Wer in Ihrem Unternehmen ruft ihn an?
Falls Ihnen nicht sofort ein Name einfällt, haben Sie die eigentliche Lücke gefunden.
Dr. Nikolai A. Behr CSP® ist Keynote Speaker, Kommunikationsexperte und Medientrainer für Führung, Vertrauen und empathische Kommunikation in Zeiten von Wandel und KI.