KI-Agent: Definition, Beispiele und Einsatz am Telefon

Ein KI-Agent ist Software, die mit einem Sprachmodell ein Ziel verfolgt, dafür Werkzeuge wie Kalender oder CRM nutzt und mehrere Schritte selbstständig erledigt. Im Mittelstand ist das Telefon der einfachste Einstieg.

Inhalt

„KI-Agent“ ist eines der meistgenutzten Schlagworte der Softwarebranche. Große Hersteller werben damit, und in vielen Softwareangeboten taucht inzwischen ein „Agent“ auf. Für Sie als Geschäftsführer zählt die praktische Frage: Welche Aufgabe kann so ein Agent in Ihrem Betrieb übernehmen, was kostet das und worauf müssen Sie rechtlich achten?

Diese Seite erklärt den Begriff ohne Marketing, grenzt ihn von Chatbot und ChatGPT ab und zeigt, wo KI-Agenten im Mittelstand heute schon zuverlässig arbeiten. Der Schwerpunkt liegt auf dem Telefon, weil dort fertige Produkte mit transparenten Preisen verfügbar sind.

Was ist ein KI-Agent?

Ein KI-Agent (englisch AI Agent) ist ein Softwaresystem, das ein vorgegebenes Ziel selbstständig verfolgt. Es nutzt dafür ein Large Language Model als „Denkzentrale“ und greift über Schnittstellen auf Werkzeuge zu: Kalender, CRM, Datenbanken, E-Mail oder Telefon. Das Fraunhofer IPA beschreibt einen KI-Agenten als autonomes System, das spezifische und komplexe Aufgaben eigenständig löst.

Der Unterschied zu klassischer Software: Sie programmieren nicht jeden Schritt vor. Sie geben dem Agenten ein Ziel, Regeln und die erlaubten Werkzeuge. Den Weg dorthin plant er im Rahmen dieser Vorgaben selbst.

Der Fachbegriff für diese Systemklasse lautet Agentic AI oder agentische KI. Gemeint sind Systeme, die nicht nur antworten, sondern selbst handeln.

So arbeitet ein KI-Agent

Fast alle Agenten folgen derselben Schleife aus drei Schritten:

  1. Planen: Der Agent zerlegt das Ziel in Teilschritte. Beim Anruf „Ich brauche nächste Woche einen Termin“ heißt das: Anliegen klären, freie Zeiten prüfen, Termin vorschlagen, Daten aufnehmen.
  2. Handeln: Er ruft ein Werkzeug auf, etwa die Kalenderschnittstelle, und liest das Ergebnis.
  3. Prüfen: Er bewertet das Ergebnis. Ist der Wunschtermin belegt, schlägt er einen anderen vor. Ist das Ziel erreicht, schließt er ab und dokumentiert.

Damit das funktioniert, braucht ein Agent fünf Bausteine:

  • Auftrag und Regeln: Was soll er erreichen, was darf er nie tun? Das steht im Prompt bzw. in der Konfiguration.
  • Sprachmodell: versteht Eingaben, plant und formuliert Antworten.
  • Werkzeuge: Schnittstellen zu Kalender, CRM oder Ticketsystem. Ein offener Standard dafür ist das Model Context Protocol (MCP).
  • Wissen: Ihre Preise, Öffnungszeiten, Leistungen und FAQ als geprüfte Quelle.
  • Kontrolle: Protokolle, Freigaben und eine Übergabe an Menschen, wenn der Agent nicht weiterkommt.

KI-Agent, Chatbot, ChatGPT: die Abgrenzung

SystemWas es tutHandelt selbst?
Regelbasierter Chatbotfolgt festen Klickpfadennein
IVR / Sprachmenü„Drücken Sie die 1“, feste Weiterleitungnein
ChatGPT im Chatbeantwortet Fragen, schreibt Textenein, nur Inhalte
Conversational AIführt einen freien Dialogje nach Anbindung
KI-Agentverfolgt ein Ziel, nutzt Werkzeuge, erledigt Aufgabenja

Ein Sprachmodell allein ist also noch kein Agent. Erst wenn es Aktionen in anderen Systemen auslösen darf, wird daraus einer. Ob ein Produkt das kann, erkennen Sie an den Integrationen, nicht am Etikett.

Arten von KI-Agenten

Im Markt laufen sehr verschiedene Produkte unter demselben Begriff. Für Entscheider hilft diese Einteilung:

  • Büro- und Wissensagenten: Assistenten in Microsoft 365, Google Workspace oder Salesforce, die Dokumente zusammenfassen, E-Mails vorbereiten oder Daten abfragen. Sie stecken meist in Lizenzen, die Sie schon haben oder hinzubuchen.
  • Entwicklerframeworks: Baukästen wie LangChain oder CrewAI, mit denen Entwickler eigene Agenten programmieren.
  • Individuelle Prozessagenten: maßgeschneiderte Lösungen für Produktion, Qualitätsmanagement oder Energie. Das Fraunhofer IPA nennt für seine Agentenprojekte Einstiegspreise von ab 36.000 € (Qualitätsmanagement) über ab 45.000 € (etwa Wissens- oder Energiemanagement) bis ab 70.000 € (Produktionsprozesse).
  • Telefon- und Voice-Agenten: nehmen Anrufe an, beantworten Fragen, buchen Termine und rufen zurück. Mehr dazu im Ratgeber KI Voice Agent.

Die letzte Gruppe ist für KMU am leichtesten greifbar. Sie lösen ein klar umrissenes Problem, nämlich unbeantwortete Anrufe, und Sie können viele davon ohne Entwickler selbst einrichten.

KI-Agent am Telefon: das konkrete Beispiel

Ein Telefonagent verbindet die drei Schritte Planen, Handeln, Prüfen mit Sprache. Die Spracherkennung wandelt das Gesagte in Text, das Sprachmodell entscheidet über den nächsten Schritt, die Sprachsynthese spricht die Antwort. Im Hintergrund arbeitet der Agent mit Ihren Systemen.

Typische Aufgaben:

  • Anrufannahme rund um die Uhr: Standardfragen beantworten, Anliegen aufnehmen, Zusammenfassung per E-Mail oder ins CRM.
  • Terminbuchung: freie Zeiten im angebundenen Kalender prüfen und eintragen. Eine Auswahl passender Produkte finden Sie im Vergleich mit Terminbuchung.
  • Vorqualifizierung und Weiterleitung: Dringendes sofort durchstellen, Rest als Rückrufnotiz. Mehr unter Anrufweiterleitung.
  • Ausgehende Anrufe: Terminerinnerungen oder Rückrufe nach Liste. Hier gelten eigene Regeln, siehe KI-Outbound-Anrufe.

Die meisten Anbieter in unserem Vergleich bieten Terminbuchung, Weiterleitung und eine API. fonio nennt rund 30 Integrationen, darunter Google Calendar, Outlook, Calendly und Cal.com. sipgate sona bindet unter anderem HubSpot, Pipedrive und Zendesk an und unterstützt MCP. smao setzt laut eigenen Angaben auf selbst betriebene Sprachmodelle mit Hosting in Deutschland.

AnbieterWertungPreis abTestphaseHostingAVVTermin­buchungAusgehende Anrufe
fonio4,4/ 5ab 99 € netto/Monat (jährlich), 119 € monatlichkostenlos testen (Demo-Assistent aus der eigenen Website), 30 Tage Geld-zurück-GarantieEU (DE/FI/FR)✓ Ja✓ Ja✓ JaZum Anbieter →Anzeige
sipgate sona4,3/ 5Free 0 €, bezahlt ab 69,95 € netto/MonatFree-Tarif dauerhaft kostenlos (500 Min.), ohne KreditkarteEU (Deutschland)✓ Ja✓ Ja✓ JaZum Anbieter →
smao4,3/ 5ab 0 € Grundgebühr + 0,35 €/Min.50 Freiminuten, ohne Kreditkarte und ohne EinrichtungsgebührDeutschland✓ Ja✓ Ja✓ JaZum Anbieter →
Famulor4,3/ 5ab 0 € Grundgebühr (Prepaid 0,15 €/Min. netto)kostenlose Registrierung ohne Kreditkarte mit 800 Start-Credits (rechnerisch rund 26 Minuten bei 200 Credits je Euro und 0,15 €/Min.)Frankfurt, KI-Region wählbar✓ Ja✓ Ja✓ JaZum Anbieter →
Vapi3,3/ 5ab 0 USD Grundgebühr + 0,05 USD/Min. Plattform5 USD Startguthaben und eine kostenlose US-Nummer (nur eingehend), keine befristete TestphaseUSA (EU nur Premier)✓ Ja✓ Ja✓ JaZum Anbieter →

Was kostet ein KI-Agent?

Die Spanne ist groß, weil sich die Wege grundlegend unterscheiden:

  • Individuelle Entwicklung: laut Fraunhofer IPA ab 36.000 € bis ab 70.000 € je Anwendungsfall, plus laufender Betrieb.
  • Fertiger Telefonagent im Abo: in unseren Daten ab ca. 29,41 € netto im Monat (STRATO), fonio ab 99 € netto im Monat bei Jahreszahlung. sipgate sona hat einen dauerhaft kostenlosen Tarif mit 500 Minuten.
  • Nutzungsbasiert ohne Grundgebühr: Famulor ab 0,15 € netto pro Minute im Prepaid, smao ab 0,35 € pro Minute.
  • Entwicklerplattform: Vapi ab 0,05 USD pro Minute Plattformgebühr, dazu kommen Sprachmodell, Stimme und Telefonie.

Was das für Ihr Anrufvolumen bedeutet, rechnen Sie mit dem Kostenrechner durch. Eine Übersicht aller Preismodelle finden Sie unter Kosten.

Grenzen und Risiken

Ein Agent, der handeln darf, kann auch falsch handeln. Planen Sie deshalb:

  • Klare Grenzen: Der Agent darf nur die Werkzeuge nutzen, die er braucht. Ein Telefonagent braucht Lesezugriff auf freie Termine, aber keinen Zugriff auf Ihre Buchhaltung.
  • Geprüftes Wissen: Sprachmodelle können Fakten erfinden. Preise und Zusagen nur aus hinterlegten Daten nennen lassen.
  • Menschliche Freigabe bei Verträgen, Zahlungen und heiklen Themen. Hier sollte der Agent vorbereiten, die Entscheidung trifft ein Mensch.
  • Übergabe an Menschen: Beschwerden und komplexe Fälle gehören zu Ihrem Team. Der Agent muss wissen, wann er durchstellt.
  • Protokolle: Jede Aktion sollte nachvollziehbar sein, damit Sie Fehler finden und den Agenten nachschärfen können.

Rechtlicher Rahmen

Für KI-Agenten mit Kundenkontakt sind in Deutschland vor allem drei Punkte relevant:

  • KI-Hinweis: Nach Art. 50 Abs. 1 der KI-Verordnung (EU) 2024/1689 müssen Menschen erfahren, dass sie mit einem KI-System interagieren, sofern das nicht offensichtlich ist. Die Pflicht gilt laut Art. 113 seit dem 2. August 2026. sipgate sona stellt sich laut Leistungsbeschreibung zu Gesprächsbeginn als nicht menschlich vor. Bei fonio und Famulor müssen Sie den Hinweis laut AGB als Betreiber selbst einrichten. Details im Ratgeber AI Act und KI-Telefonie.
  • Datenschutz: Der Anbieter verarbeitet personenbezogene Daten in Ihrem Auftrag. Dafür brauchen Sie einen Auftragsverarbeitungsvertrag nach Art. 28 DSGVO. Prüfen Sie Hosting und Unterauftragnehmer, vor allem solche mit Sitz in den USA. Mehr unter Datenschutz bei KI-Telefonie.
  • Aufzeichnung: Wer das nichtöffentlich gesprochene Wort unbefugt aufnimmt, macht sich nach § 201 StGB strafbar. Aufzeichnung und Transkription brauchen eine saubere Grundlage und einen klaren Hinweis.

Diese Übersicht ist keine Rechtsberatung. Lassen Sie Ihren konkreten Einsatz bei Bedarf von Ihrem Datenschutzbeauftragten oder einer Kanzlei prüfen.

Die bestbewerteten KI-Telefonagenten nach unserer Methodik

Wir bewerten Funktionen, Datenschutz, Preis-Leistung, Einrichtung und Vertrag. Provisionen fließen nicht ein, das Vorgehen steht unter Methodik.

1.
Testsieger nach Methodik

fonio 4,4/ 5

ab 99 € netto/Monat (jährlich), 119 € monatlich · Hosting: EU (DE/FI/FR)

  • Öffentliche Preise mit 1.000 Inklusivminuten schon im Solo-Tarif
  • Rund 30 verfügbare Integrationen, darunter Google Calendar, Calendly, eTermin, Pipedrive, onOffice, Make und n8n
  • AVV mit vollständiger Subprozessorliste, Löschfristen und Verschwiegenheitserklärungen für Berufsgeheimnisträger
2.

Famulor 4,3/ 5

ab 0 € Grundgebühr (Prepaid 0,15 €/Min. netto) · Hosting: Frankfurt, KI-Region wählbar

  • Prepaid ohne Grundgebühr und ohne Vertragsbindung, 0,15 € netto pro Minute, sekundengenaue Abrechnung
  • Ein- und ausgehende Anrufe, Terminbuchung im Gespräch, warme Weiterleitung mit Briefing, dazu WhatsApp, SMS und E-Mail
  • Sehr viele Anbindungen: Google Kalender, Outlook, HubSpot, Salesforce, Pipedrive, Zapier, REST-API, SDK und SIP-Trunks
3.

sipgate sona 4,3/ 5

Free 0 €, bezahlt ab 69,95 € netto/Monat · Hosting: EU (Deutschland)

  • Free-Tarif mit 500 Minuten dauerhaft kostenlos, ohne Kreditkarte
  • Öffentliche Preise, Mehrminute 0,12 € netto
  • Monatlich kündbar, Frist ein Werktag zum Monatsende
4.

smao 4,3/ 5

ab 0 € Grundgebühr + 0,35 €/Min. · Hosting: Deutschland

  • Öffentliche Preise mit Pay as you Go ohne Grundgebühr und 50 Freiminuten ohne Kreditkarte
  • Hosting in Deutschland, selbst betriebene Sprachmodelle, laut Anbieter keine OpenAI- oder US-KI-Subprozessoren in der Gesprächsverarbeitung
  • 74 Integrationen, darunter HubSpot, Salesforce, Jira Service Management, TANSS und HaloPSA, dazu REST-API und Webhooks
5.

VITAS 4,3/ 5

ab 40 € netto/Monat (jährlich), 49 € monatlich · Hosting: Deutschland

  • Hosting komplett in Deutschland (Open Telekom Cloud), öffentliche Subprozessorenliste im AVV ohne US-Dienstleister
  • Prüfung nach BSI C5 Typ 1 und ISO 27001, AVV und TOMs öffentlich als PDF abrufbar
  • Viele Anbindungen an Praxis- und Terminsoftware wie medatixx, samedi, tomedo, cituro oder dubidoc
fonio 4,4/ 5
ab 99 € netto/Monat (jährlich), 119 € monatlich · EU (DE/FI/FR)
  • Öffentliche Preise mit 1.000 Inklusivminuten schon im Solo-Tarif
  • Rund 30 verfügbare Integrationen, darunter Google Calendar, Calendly, eTermin, Pipedrive, onOffice, Make und n8n
  • AVV mit vollständiger Subprozessorliste, Löschfristen und Verschwiegenheitserklärungen für Berufsgeheimnisträger

So starten Sie mit einem KI-Agenten

  1. Eine Aufgabe wählen: Beginnen Sie mit dem häufigsten, klar umrissenen Anrufgrund, etwa Terminanfragen.
  2. Werkzeuge klären: Welchen Kalender, welches CRM nutzen Sie? Der Agent muss genau diese direkt anbinden können.
  3. Regeln festlegen: Was darf er zusagen, wann stellt er durch, was passiert außerhalb der Geschäftszeiten?
  4. Datenschutz prüfen: AVV, Hosting, Unterauftragnehmer, KI-Hinweis.
  5. Testen: mit echten Anrufen von Kollegen, die das System nicht kennen, und mit den Störgeräuschen Ihres Alltags.

Alle geprüften Anbieter mit Preisen, Datenschutzangaben und Bewertung finden Sie im Vergleich der KI-Telefonassistenten.

fonio kostenlos testen →Anzeige

Häufige Fragen

Was macht ein KI-Agent?Ein KI-Agent erhält ein Ziel, etwa „Termin für den Anrufer vereinbaren“, zerlegt es in Schritte und führt diese über angebundene Werkzeuge aus: Er fragt nach, prüft den Kalender, trägt den Termin ein und verschickt eine Bestätigung. Anders als ein Chatbot liefert er also nicht nur eine Antwort, sondern erledigt die Aufgabe.
Ist ChatGPT ein KI-Agent?Im normalen Chat ist ChatGPT ein Sprachmodell mit Dialogoberfläche, also eher ein Assistent als ein Agent. Zum Agenten wird ein solches System erst, wenn es Werkzeuge nutzen und Aktionen ausführen darf, etwa im Web recherchieren, Formulare ausfüllen oder Termine buchen.
Was kostet ein KI-Agent?Das hängt stark vom Weg ab. Für individuell entwickelte Agenten nennt das Fraunhofer IPA Einstiegspreise von ab 36.000 € (Qualitätsmanagement) bis ab 70.000 € (Produktionsprozesse) je Anwendungsfall. Fertige KI-Agenten für das Telefon gibt es in unseren Anbieterdaten ab 0 € (sipgate sona Free mit 500 Minuten oder Prepaid ohne Grundgebühr), bezahlte Pakete beginnen bei rund 29 € netto im Monat.
Welcher KI-Agent ist der beste?Einen pauschal besten KI-Agenten gibt es nicht, weil Büro-Agenten, Entwicklerframeworks und Telefonagenten völlig unterschiedliche Aufgaben haben. Für die Anrufannahme im KMU führt fonio nach unserer Methodik mit 4,4 von 5 Punkten, gefolgt von sipgate sona, zeeg, vitas, smao und Famulor mit je 4,3.
Muss sich ein KI-Agent am Telefon als KI zu erkennen geben?Nach Art. 50 Abs. 1 der KI-Verordnung (EU) 2024/1689 müssen Personen erfahren, dass sie mit einem KI-System interagieren, sofern das nicht offensichtlich ist. Die Pflicht gilt seit dem 2. August 2026. Bei vielen Anbietern müssen Sie den Hinweis in der Begrüßung selbst aktivieren. Das ist keine Rechtsberatung.
Kann ich einen KI-Agenten selbst erstellen?Ja. Entwicklerplattformen wie Vapi oder Retell AI rechnen pro Minute ab und lassen Sprachmodell, Stimme und Werkzeuge frei kombinieren. Das setzt aber Entwicklerkenntnisse voraus, und beide verarbeiten laut eigenen Angaben standardmäßig in den USA. Für die meisten KMU ist ein fertiger Telefonagent mit Kalender- und CRM-Anbindung der schnellere Weg.

Passend zum Thema

✍️
Redaktion KI-Telefonassistent.net
Wir recherchieren Anbieterangaben, AGB, Datenschutzunterlagen und Preislisten und bewerten nach unserer offengelegten Methodik. Erfahrungen aus eigenem Praxiseinsatz kennzeichnen wir gesondert. Zuletzt geprüft: 26.10.2026.
fonio 4,4/ 5 ab 99 € netto/Monat (jährlich), 119 € monatlich