Die Frage
Im Februar 2024 entschied ein kanadisches Gericht im Fall Moffatt v. Air Canada (BCCRT 149), dass Air Canada für eine Rückerstattungsregel haftet, die ihr Chatbot erfunden hatte. Der Kunde hatte nach Erstattungsregeln für Trauerfälle gefragt. Der Bot antwortete mit einer detaillierten, aber vollständig falschen Policy. Air Canada argumentierte, der Bot sei eine "separate legal entity". Das Gericht wies das zurück.
Dieser Fall betraf einen Text-Chatbot — wo der Kunde den Chatverlauf als Beleg hatte. Am Telefon wäre beides schwieriger gewesen: Verifizierung und Nachweis.
Im Chat sieht der Nutzer die Antwort als Text. Er kann sie kopieren, googeln, vergleichen. Am Telefon ist die Information flüchtig. Das Arbeitsgedächtnis behält vier bis fünf Informationseinheiten (Cowan, 2001) — danach ist die Aussage weg.
Dazu kommt ein zweiter Effekt: Die kognitionspsychologische Forschung hat einen Hearing-is-Believing-Effekt identifiziert — gesprochene Information wird als glaubwürdiger wahrgenommen als geschriebene (Munz et al., 2024). Der Mechanismus ist Listening Fluency: Die subjektive Leichtigkeit, mit der das Gehirn gesprochene Sprache verarbeitet, wird unbewusst als Glaubwürdigkeitssignal interpretiert.
Fünf Verteidigungsschichten gegen Halluzination
Die meisten Ansätze gegen Halluzination beginnen mit dem Prompt: "Antworte nur basierend auf den bereitgestellten Informationen." Das ist notwendig — aber nicht hinreichend. System-Prompts allein sind umgehbar (Guardrails Research, 2025). Ein robustes System braucht mehrere Schichten:
Tool-Grounding — Kein Faktum aus dem Kopf
Deterministische Suche statt probabilistischem Retrieval
Ehrliche Leermeldung — "Ich weiß es nicht"
Themeneinschränkung — Das Sicherheitsnetz
URL-Integrität — Nichts erfinden, was angeklickt wird
Was die meisten übersehen
Das beste Anti-Halluzinations-System ist nicht nur technisch — es ist prozessual. Die fünf Schichten reduzieren das Risiko drastisch. Aber kein System kann garantieren, dass ein LLM niemals eine falsche Aussage trifft.
Die prozessuale Lösung: Voice ist das Medium der Interaktion. Text ist das Medium der Verbindlichkeit. Jede handlungsrelevante Information — ein Preis, eine Lieferzusage, ein Termin — wird durch eine schriftliche Bestätigung abgesichert. Der Bot sagt den Preis am Telefon und bietet unmittelbar danach an: "Soll ich Ihnen die Details per E-Mail schicken?"
Die E-Mail oder SMS ist die Single Source of Truth. Sie wird direkt aus der Datenbank generiert — ohne LLM-Beteiligung. Wenn der Bot am Telefon einen falschen Preis halluziniert hat, fängt die Bestätigung den Fehler auf.
Drei Fehler, die ich immer wieder sehe
Fehler 1: Wissen im Prompt statt in der Datenbank
Der Prompt enthält alle Produktpreise und Öffnungszeiten. Nach der nächsten Preisanpassung gibt der Bot veraltete Preise aus — und niemand merkt es. Am Telefon besonders problematisch: Der Kunde hört einen falschen Preis, kann ihn nicht verifizieren, und handelt danach.
Lösung: Kein Faktenwissen im Prompt. Jede Information kommt per Tool-Call aus der Datenbank.
Fehler 2: RAG ohne Threshold — Halluzination mit Quellenangabe
Der Bot verwendet Embedding-basiertes Retrieval und findet immer ein Dokument — weil semantische Ähnlichkeit nie exakt null ist. Das System halluziniert "grounded" — mit einer Quelle, die nicht zur Frage passt (MDPI, 2025).
Lösung: Strenge Score-Thresholds. Nur Ergebnisse über dem konfigurierten Schwellenwert werden an das Modell weitergegeben.
Fehler 3: Keine Bestätigung — Mündliche Zusage als Vertragsbasis
Der Bot sagt einen Preis, der Kunde bestellt auf dieser Basis, der Preis war falsch. Am Telefon gibt es keinen Chatverlauf als Nachweis. Lösung: Jede handlungsrelevante Information wird per Bestätigungsnachricht (E-Mail oder SMS) abgesichert — direkt aus der Datenbank generiert, nicht durch das LLM.
Die Halluzinations-Checkliste
Fünf Tests, mit denen Sie das Halluzinationsrisiko eines KI-Telefonassistenten prüfen:
Testet: Datenbank vs. Prompt
Testet: Ehrliche Leermeldung
Testet: Live-Datenanbindung
Testet: Widerstandsfähigkeit gegen Suggestion
Testet: Prozessuale Absicherung
Fazit
Am Telefon gibt es keinen Zurück-Button. Was der Bot sagt, ist gesagt. Der Anrufer kann es nicht nachschlagen, nicht verifizieren, nicht vergleichen.
Deshalb braucht ein KI-Telefonassistent zwei Verteidigungslinien: eine technische und eine prozessuale. Die technische — Tool-Grounding, deterministische Suche, ehrliche Leermeldung — reduziert die Wahrscheinlichkeit einer Halluzination. Die prozessuale — schriftliche Bestätigung jeder handlungsrelevanten Aussage — begrenzt den Schaden, wenn sie trotzdem eintritt.
Lassen Sie sich direkt mit den Gründern verbinden.
Kostenlos. Ohne Registrierung. Ihr Gespräch wird nicht aufgezeichnet.