Natural Language Processing: Was NLP am Telefon leistet

Natural Language Processing (NLP), auf Deutsch Verarbeitung natürlicher Sprache, ist das Teilgebiet der KI, das Computern beibringt, menschliche Sprache zu analysieren, zu verstehen und selbst zu formulieren. Im KI-Telefonassistenten ist NLP der Teil, der aus dem Gesagten das Anliegen herausliest und eine passende Antwort baut.

Ein Anrufer sagt: „Ja, hallo, ich wollte eigentlich nur fragen, ob ich den Termin am Donnerstag auf nächste Woche schieben kann, gleiche Uhrzeit wäre super.“ Für einen Menschen ist sofort klar, worum es geht. Eine Maschine muss dafür eine Menge leisten: erkennen, dass es um eine Terminverschiebung geht und nicht um eine Neubuchung, herausfinden, welcher Donnerstag gemeint ist, und „gleiche Uhrzeit“ auf den alten Termin beziehen. Genau das ist die Aufgabe von Natural Language Processing.

Die meisten Erklärungen zu NLP bleiben bei Übersetzung, Spamfiltern und Chatbots stehen. Diese Seite erklärt den Begriff und zeigt dann, was NLP im Telefonkontakt mit Ihren Kunden konkret tut, wo es scheitert und welche Fragen Sie einem Anbieter stellen sollten.

Was ist Natural Language Processing?

Natural Language Processing (NLP), deutsch Verarbeitung natürlicher Sprache, ist ein Teilgebiet der Informatik und der künstlichen Intelligenz mit starken Wurzeln in der Computerlinguistik. „Natürlich“ meint die Sprache, die Menschen untereinander sprechen und schreiben, im Gegensatz zu Programmiersprachen mit festen Regeln.

NLP umfasst zwei Richtungen:

• Natural Language Understanding (NLU): Die Maschine erfasst, was gemeint ist. Dazu gehört die Absicht hinter einer Äußerung (im Fachjargon Intent) und die enthaltenen Angaben wie Name, Datum oder Kundennummer (Entitäten).
• Natural Language Generation (NLG): Die Maschine formuliert selbst Text, etwa eine Antwort, eine Zusammenfassung oder eine Gesprächsnotiz.

Abgrenzung: NLP, Spracherkennung, LLM und Co.

Rund um KI-Telefonie fallen viele ähnliche Begriffe. So hängen sie zusammen:

Spracherkennung und Sprachsynthese arbeiten mit Audio, NLP mit Text. Diese Trennung ist für Sie praktisch wichtig, weil die einzelnen Schritte häufig bei verschiedenen Dienstleistern laufen und damit auch Ihre Gesprächsdaten an verschiedene Stellen gehen.

Wie NLP funktioniert: drei Generationen

Regelbasiert. Die ersten Systeme arbeiteten mit von Hand geschriebenen Regeln und Wörterbüchern. Bekannt ist ELIZA, ein Programm von Joseph Weizenbaum aus den 1960er-Jahren, das per Mustervergleich ein Gespräch simulierte. Regeln sind nachvollziehbar, brechen aber bei jeder unerwarteten Formulierung.

Statistisch und maschinelles Lernen. Ab den 1990er-Jahren lernten Systeme aus großen Textmengen, welche Deutung am wahrscheinlichsten ist. Viele klassische Sprachportale und Chatbots arbeiten bis heute so: Für jede Absicht hinterlegt man Beispielsätze, ein Modell ordnet neue Äußerungen der passenden Absicht zu.

Neuronale Netze und Transformer. Seit dem Transformer-Ansatz von 2017 („Attention Is All You Need“) dominieren große neuronale Modelle, die einen Satz im ganzen Zusammenhang betrachten. Daraus sind die Large Language Models entstanden, auf denen ChatGPT und die meisten heutigen KI-Telefonassistenten beruhen. Sie brauchen keine vorab definierte Liste von Absichten mehr, sondern werden über eine Anweisung, den Prompt, auf ihre Aufgabe eingestellt.

Unabhängig von der Generation laufen typische Teilschritte ab: Text in Einheiten (Token) zerlegen, Wortbedeutungen aus dem Kontext bestimmen, Entitäten erkennen, Bezüge auflösen („gleiche Uhrzeit“ meint die des alten Termins) und schließlich eine Antwort erzeugen.

Was NLP im KI-Telefonassistenten konkret tut

In einem Anruf mit einem Voicebot übernimmt NLP mehrere Aufgaben, die Sie aus Sicht Ihres Betriebs bewerten können:

1. Anliegen erkennen: Terminwunsch, Rückrufbitte, Reklamation, Preisanfrage. Davon hängt ab, ob der Assistent selbst weitermacht oder an einen Menschen weiterleitet.
2. Daten herausziehen: Name, Rufnummer, Wunschtermin, Auftragsnummer, Adresse. Diese Angaben landen im Kalender, CRM oder in der E-Mail an Ihr Team.
3. Rückfragen stellen: Fehlt eine Angabe oder ist sie widersprüchlich, fragt ein gutes System gezielt nach, statt zu raten.
4. Antworten formulieren: Öffnungszeiten, Leistungen, Preise aus Ihrer Wissensbasis. Viele Anbieter verknüpfen das Sprachmodell dafür mit hinterlegten Dokumenten, das Verfahren heißt Retrieval Augmented Generation.
5. Nachbereiten: Gesprächszusammenfassung, Kategorisierung, teils eine Einschätzung der Stimmung (Sentimentanalyse).

Der Unterschied zum klassischen IVR-Menü liegt im ersten Punkt. Dort wählt der Anrufer zwischen festen Optionen („Drücken Sie die 1“). Mit NLP spricht er frei, und das System ordnet ein.

Grenzen von NLP am Telefon

• Erfundene Antworten: Sprachmodelle formulieren auch dann flüssig, wenn ihnen die Information fehlt. Diese Halluzinationen sind am Telefon heikel, wenn es um Preise, Fristen oder medizinische Auskünfte geht. Abhilfe schaffen eine eng gefasste Wissensbasis und die Anweisung, bei Unklarheit an einen Menschen zu übergeben.
• Folgefehler der Spracherkennung: NLP kann nur auswerten, was die Spracherkennung liefert. Ist aus „Kühn“ „Kuhn“ geworden, ist der Fehler schon passiert.
• Mehrdeutigkeit: „Nächsten Freitag“ bedeutet für manche Menschen den kommenden, für andere den übernächsten Freitag. Gute Systeme bestätigen Datum und Uhrzeit ausdrücklich.
• Ironie und Tonfall: Ein „Na super“ kann Zustimmung oder Ärger sein. Am Text allein ist das oft nicht zu erkennen.
• Zeitdruck: Jeder Verarbeitungsschritt kostet Zeit. Große Modelle verstehen mehr, antworten aber unter Umständen langsamer, was die Latenz im Gespräch erhöht.

Datenschutz: Wo läuft das Sprachmodell?

Was Anrufer sagen, enthält fast immer personenbezogene Daten. Für die Verarbeitung durch einen Dienstleister brauchen Sie einen Auftragsverarbeitungsvertrag nach Art. 28 DSGVO, und die eingesetzten Subprozessoren sollten bekannt sein. Gerade beim Sprachmodell lohnt der genaue Blick, denn hier setzen viele Anbieter Dienste großer US-Konzerne ein. Die Angaben der von uns erfassten Anbieter:

Die Angaben geben den Datenstand nach unserer Methodik wieder. „EU-Verarbeitung“ bei einer US-Firma ist nicht dasselbe wie ein Anbieter ohne US-Bezug. Wie Sie das bewerten, hängt von Ihren Daten ab: Für eine Kanzlei oder Praxis gelten strengere Maßstäbe als für einen Onlineshop.

Zusätzlich verlangt Art. 50 Abs. 1 der KI-Verordnung (EU) 2024/1689, dass Menschen erfahren, wenn sie mit einem KI-System interagieren, sofern das nicht offensichtlich ist. Bei fonio etwa muss der Kunde laut AGB die Hinweisfunktion selbst aktivieren, sipgate sona stellt sich laut Leistungsbeschreibung von sich aus als nicht menschlich vor. Mehr dazu im Ratgeber AI Act in der KI-Telefonie und unter Datenschutz in der KI-Telefonie.

Diese Hinweise sind keine Rechtsberatung. Für Ihren Einzelfall wenden Sie sich an Ihren Datenschutzbeauftragten oder eine Anwältin.

So prüfen Sie die NLP-Qualität eines Anbieters

Ob das Sprachverstehen taugt, zeigt kein Datenblatt, sondern ein Testanruf mit echten Anliegen. Nutzen Sie die Testphase für einen strukturierten Test, wie ihn auch unser Ratgeber KI-Telefonassistent testen beschreibt:

• Umständlich formulieren: Rufen Sie an wie ein echter Kunde, mit Vorgeschichte und Nebensätzen, nicht mit „Termin buchen“.
• Zwei Anliegen in einem Satz: „Ich brauche einen Termin und wollte noch wissen, was das kostet.“
• Meinung ändern: Nennen Sie erst Dienstag, dann doch Mittwoch. Wird der richtige Tag gebucht?
• Außerhalb des Wissens fragen: Stellen Sie eine Frage, die nicht in der Wissensbasis steht. Erfindet der Assistent eine Antwort oder verweist er auf einen Rückruf?
• Zusammenfassung lesen: Prüfen Sie nach dem Gespräch, ob Notiz, Kategorie und Daten stimmen.

Fragen Sie außerdem schriftlich, welches Sprachmodell eingesetzt wird, in welcher Region es läuft und ob Ihre Gespräche zum Training verwendet werden.

Den nach unserer Methodik am besten bewerteten Anbieter können Sie direkt ausprobieren:

Wer Wert auf Sprachmodelle ohne US-Anbieter legt, sollte die Angaben in der Tabelle vergleichen und mehrere Anbieter nebeneinander testen:

Alle Anbieter mit Bewertung finden Sie im Anbietervergleich, was die Minuten im Monat kosten, zeigt der Kostenrechner.

Häufige Fragen