KI-Halluzination: Ursachen, Beispiele und Schutz am Telefon

Eine KI-Halluzination ist eine Antwort, die flüssig und überzeugend klingt, aber sachlich falsch oder frei erfunden ist. Bei einem KI-Telefonassistenten betrifft das vor allem Preise, Termine und Zusagen, und für diese Aussagen haften Sie als Betreiber.

Ein Anrufer fragt nach dem Preis für eine Leistung, die Sie gar nicht anbieten. Ihr KI-Telefonassistent antwortet freundlich und ohne Zögern: „Das kostet bei uns 89 Euro." Diese Zahl steht nirgends, das Modell hat sie erzeugt, weil sie zur Frage passt. Genau das nennt man KI-Halluzination. Für Sie als Geschäftsführer ist das keine akademische Frage: Der Anrufer hält die Auskunft für Ihre Auskunft.

Die meisten Erklärungen im Netz drehen sich um ChatGPT und Textrecherche. Hier geht es darum, was Halluzinationen am Telefon bedeuten, wer haftet und wie Sie einen Telefonassistenten so einrichten, dass er lieber an einen Menschen übergibt als zu raten.

Was ist eine KI-Halluzination?

Als Halluzination bezeichnet man in der künstlichen Intelligenz ein überzeugend formuliertes Ergebnis, das sachlich falsch ist oder durch keine Quelle gedeckt ist. Manche Forscher sprechen lieber von Konfabulation, weil die KI nichts „sieht", sondern Lücken auffüllt.

In der Fachdiskussion werden meist zwei Arten unterschieden, die auch für die Telefonie nützlich sind:

• Abweichung von der Vorlage: Die Antwort widerspricht dem, was dem Modell vorgegeben wurde, etwa Ihrer hinterlegten Preisliste.
• Faktisch falsche Antwort: Die Antwort widerspricht der Wirklichkeit, etwa ein Feiertag, der gar keiner ist.

Am Telefon ist die erste Art die gefährlichere. Sie haben die richtigen Daten hinterlegt, und trotzdem nennt der Assistent etwas anderes.

Warum halluzinieren Sprachmodelle?

Ein Large Language Model sagt Wort für Wort vorher, welcher Text am wahrscheinlichsten folgt. Es hat kein eingebautes Verständnis von „wahr" und „falsch". Daraus ergeben sich die typischen Ursachen:

1. Wissenslücken: Steht eine Information weder im Training noch in Ihrer Wissensbasis, erzeugt das Modell eine plausible Ergänzung statt einer Lücke.
2. Fehlanreize im Training: OpenAI schreibt in seinem Beitrag „Warum Sprachmodelle halluzinieren", dass gängige Bewertungsverfahren Raten besser belohnen als ein ehrliches „Ich weiß es nicht".
3. Zufall bei der Ausgabe: Die Wortwahl enthält ein Zufallselement. Besonders heikel sind Einzelangaben ohne Zusammenhang wie Zahlen, Daten und Namen: OpenAI nennt als Beispiel Geburtstage, die ein Modell nicht aus Mustern ableiten kann. Am Telefon sind das genau die Angaben, auf die es ankommt: Preise, Uhrzeiten, Hausnummern.
4. Gefälligkeit: Modelle neigen dazu, dem Gegenüber zuzustimmen. Fragt ein Anrufer „Sie haben doch samstags offen, oder?", ist die Versuchung groß, Ja zu sagen.

Dazu kommt beim Voicebot eine zusätzliche Fehlerquelle: die Spracherkennung. Versteht sie „Dienstag" statt „Donnerstag", arbeitet das Sprachmodell mit falschen Eingaben weiter. Das ist streng genommen keine Halluzination, sieht für den Anrufer aber genauso aus.

Echte Fälle: Wenn die KI etwas erfindet

Drei dokumentierte Fälle zeigen, wohin das führen kann:

• Erfundene Urteile (USA, 2023): Im Verfahren Mata v. Avianca reichte ein Anwalt einen mit ChatGPT erstellten Schriftsatz ein, der nicht existierende Urteile zitierte.
• Erfundene Erstattungsregel (Kanada, 2024): Der Website-Chatbot von Air Canada sagte einem Kunden, er könne einen Trauerfall-Rabatt nachträglich beantragen. Das stimmte nicht. Air Canada argumentierte, der Chatbot sei für seine Aussagen selbst verantwortlich. Das Civil Resolution Tribunal in British Columbia folgte dem nicht und verurteilte die Airline zur Teilerstattung (Moffatt v. Air Canada, 2024 BCCRT 149).
• Erfundene Facharzttitel (Deutschland, 2026): Der Chatbot einer ästhetischen Praxis schrieb den Ärzten Facharztbezeichnungen zu, die es nicht gibt. Die Verbraucherzentrale NRW klagte auf Unterlassung und bekam vor dem OLG Hamm recht.

Allen Fällen gemeinsam: Die Antwort klang souverän, und am Ende stand das Unternehmen dafür ein.

Haftung: Ihre KI spricht für Ihr Unternehmen

Das Urteil des OLG Hamm vom 12. Mai 2026 (Az. 4 UKl 3/25) ist für jeden Betreiber eines KI-Assistenten relevant. Nach den Berichten von LTO und weiteren Fachmedien rechnete das Gericht die Antworten des Chatbots dem Unternehmen als eigene geschäftliche Handlung im Sinne des UWG zu. Der Chatbot sei kein unabhängiger Dritter, sondern Teil der eigenen Organisation. Der Einwand, KI sei nun einmal fehleranfällig, entlastete nicht. Laut Pressemitteilung der Justiz NRW bleibt die Betreiberin auch dann verantwortlich, wenn sie den Chatbot nur mit korrekten Daten trainieren ließ. Den Chatbot hatte sie zwar später abgeschaltet, die verlangte strafbewehrte Unterlassungserklärung aber nicht abgegeben.

Einschränkungen: Es ging um einen Website-Chatbot, nicht um einen Telefonassistenten, und um Wettbewerbsrecht. Das Urteil ist nicht rechtskräftig, die Revision zum Bundesgerichtshof ist zugelassen. Die Überlegung, dass ein Unternehmen für die Aussagen seines Assistenten einsteht, lässt sich aber kaum auf den Bildschirm begrenzen. Planen Sie so, als würde sie auch am Telefon gelten.

Hinzu kommt seit dem 2. August 2026 die Transparenzpflicht aus Art. 50 Abs. 1 der KI-Verordnung (EU) 2024/1689 (EUR-Lex): Anrufer müssen erfahren, dass sie mit einer KI sprechen, sofern das nicht offensichtlich ist. Ein solcher Hinweis ist Pflicht, schützt Sie aber nicht vor der Verantwortung für falsche Inhalte. Mehr dazu unter KI-Hinweis am Telefon und im Ratgeber AI Act und KI-Telefonie.

Diese Darstellung ist keine Rechtsberatung. Lassen Sie konkrete Fragen von einer Kanzlei prüfen.

Wo Halluzinationen am Telefon wehtun

So senken Sie das Risiko: sieben Maßnahmen

1. Antworten nur aus Ihrer Wissensbasis. Hinterlegen Sie Preise, Zeiten und Leistungen vollständig und lassen Sie den Assistenten nur daraus antworten. Das Prinzip heißt Retrieval Augmented Generation.
2. Nichtwissen ausdrücklich erlauben. Schreiben Sie in die Anweisung (Prompt): „Wenn eine Information nicht hinterlegt ist, sag das und biete einen Rückruf an." Formulierungshilfen finden Sie im Ratgeber Prompt für den Telefonassistenten.
3. Verbotszonen festlegen. Keine Rabatte, keine Diagnosen, keine Rechtsauskünfte, keine Zusagen über Lieferzeiten. Solche Fragen gehen an einen Menschen.
4. Weiterleitung einplanen. Eine saubere Anrufweiterleitung an Ihr Team ist die wichtigste Absicherung, wenn der Assistent unsicher ist.
5. Buchungen nur über Schnittstellen. Termine sollten erst bestätigt werden, wenn der Eintrag im Kalender tatsächlich angelegt ist, nicht weil das Modell es so formuliert.
6. Mit Fangfragen testen. Fragen Sie vor dem Start nach Leistungen, die Sie nicht anbieten, nach Preisen, die nicht hinterlegt sind, und nach Terminen außerhalb der Öffnungszeiten.
7. Transkripte lesen. Prüfen Sie in den ersten Wochen regelmäßig Gesprächsprotokolle und korrigieren Sie die Wissensbasis, sobald Sie eine falsche Aussage finden.

Weitere Stolperfallen beim Start sammelt der Ratgeber Häufige Fehler bei KI-Telefonassistenten.

Worauf Sie bei der Anbieterwahl achten

Kein Anbieter kann Halluzinationen ausschließen. Unterschiede gibt es aber dabei, wie gut Sie den Assistenten kontrollieren können. Fragen Sie konkret:

• Kann ich festlegen, dass nur aus hinterlegten Inhalten geantwortet wird?
• Lässt sich die Weiterleitung an Menschen für bestimmte Themen fest einstellen?
• Bekomme ich Transkripte oder Zusammenfassungen jedes Gesprächs, und wie lange werden sie gespeichert?
• Wird eine Terminbestätigung erst nach erfolgreichem Kalendereintrag ausgesprochen?

Aus unseren geprüften Anbieterdaten: fonio erstellt laut AVV Transkripte und Zusammenfassungen und löscht sie nach 90 Tagen. Bei sipgate sona werden Gespräche laut Leistungsbeschreibung transkribiert und zusammengefasst, Admins sehen beides im Account. Bei Zeeg lassen sich Aufzeichnung und Transkripte je Assistent ein- und ausschalten, bei Famulor ist die Aufzeichnung je Assistent abschaltbar und Transkripte werden laut Anbieter um personenbezogene Daten bereinigt, smao dokumentiert laut eigenen Angaben Transkript und Buchungsdaten pro Vorgang. Weiterleitung an Menschen bieten alle fünf an. Wie wir Anbieter bewerten, steht in unserer Methodik, eine vollständige Prüfliste in der Checkliste zur Anbieterauswahl.

Die nach unserer Methodik bestbewerteten KI-Telefonassistenten, unabhängig von Provisionen:

Was ein Assistent bei Ihrem Anrufvolumen kostet, berechnen Sie mit dem Kostenrechner. Alle geprüften Anbieter mit Funktionen und Datenschutzangaben finden Sie im Vergleich der KI-Telefonassistenten.

Häufige Fragen