KI-Kennzeichnungspflicht am Telefon: AI Act für Voicebots

Seit dem 2. August 2026 muss ein KI-Telefonassistent dem Anrufer spätestens zu Beginn des Gesprächs klar sagen, dass er mit einer KI spricht (Art. 50 KI-Verordnung). Bei vielen Anbietern müssen Sie diese Ansage selbst einrichten.

Seit dem 2. August 2026 gilt in der EU die KI-Kennzeichnungspflicht nach Art. 50 der KI-Verordnung (AI Act). Die meisten Ratgeber dazu drehen sich um KI-Bilder, Deepfakes und Social-Media-Posts. Für Unternehmen mit einem KI-Telefonassistenten ist ein anderer Teil entscheidend: Wer mit Kunden telefoniert, muss offenlegen, dass am anderen Ende eine Maschine spricht. Dieser Ratgeber zeigt, was das Gesetz konkret verlangt, wer in der Pflicht steht, wie eine saubere Ansage klingt und welche Anbieter den Hinweis schon mitbringen.

Was die KI-Kennzeichnungspflicht regelt

Art. 50 der KI-Verordnung (EU) 2024/1689 enthält mehrere Transparenzpflichten. Nicht alle betreffen das Telefon. Diese Übersicht ordnet sie ein:

Für einen klassischen KI-Telefonassistenten, der Anrufe annimmt, Termine bucht oder weiterleitet, sind also vor allem Abs. 1 und Abs. 5 entscheidend.

Seit wann gilt die Pflicht?

Art. 50 gilt seit dem 2. August 2026. Kurz vorher ist der sogenannte Digital Omnibus als Verordnung (EU) 2026/1744 in Kraft getreten (27. Juli 2026). Er verschiebt vor allem Pflichten für Hochrisiko-Systeme. Am KI-Hinweis im Gespräch nach Art. 50 Abs. 1 ändert er nichts.

Eine Übergangsregel gibt es nur für Abs. 2, die maschinenlesbare Kennzeichnung: Anbieter generativer KI-Systeme, die vor dem 2. August 2026 in Verkehr gebracht wurden, haben dafür bis zum 2. Dezember 2026 Zeit. Das ist eine Aufgabe der Hersteller, nicht Ihre als Nutzer eines fertigen Telefonassistenten. Wer bisher auf eine allgemeine Schonfrist gehofft hat: Für die Ansage am Telefon gibt es keine.

Anbieter oder Betreiber: Wer muss den Hinweis geben?

Die KI-Verordnung unterscheidet zwei Rollen. Anbieter (Art. 3 Nr. 3) ist, wer ein KI-System entwickelt und unter eigenem Namen auf den Markt bringt, also etwa fonio, sipgate oder Placetel. Betreiber (Art. 3 Nr. 4) ist, wer das System in eigener Verantwortung nutzt, also Ihr Unternehmen.

Nach dem Wortlaut trifft Art. 50 Abs. 1 den Anbieter: Er muss das System so gestalten, dass Anrufer informiert werden. In der Praxis wird diese Aufgabe aber oft auf den Kunden verlagert, weil Sie die Begrüßung selbst schreiben. Das zeigen die Vertragsunterlagen, die wir für unsere Anbieterprofile ausgewertet haben:

• fonio stellt laut AGB Ziff. 17.4 eine Hinweisfunktion (zum Beispiel eine Eingangsansage) bereit, die der Kunde als Betreiber aktivieren muss.
• IONOS schreibt in FAQ und Sonder-AGB, dass der Kunde die Begrüßung so einrichten muss, dass sich der Assistent als KI zu erkennen gibt.
• Placetel legt in der Leistungsbeschreibung die Verantwortung für die Einhaltung der KI-Verordnung beim Kunden ab und empfiehlt eine Ansage zu Gesprächsbeginn.
• voiceOne (AGB § 7 Abs. 4), Voico (AGB Ziff. 7.4), Shareflix (AGB Ziff. 4.4) und Famulor (AGB) verpflichten ebenfalls den Kunden.

Für Sie als Geschäftsführer heißt das: Verlassen Sie sich nicht darauf, dass der Anbieter das regelt. Selbst wenn die gesetzliche Pflicht formal beim Hersteller liegt, haben Sie sie vertraglich übernommen, und der Anrufer erlebt Ihr Unternehmen, nicht den Softwarehersteller.

Wann ist der KI-Einsatz „offensichtlich“?

Art. 50 Abs. 1 nimmt Fälle aus, in denen der KI-Einsatz aus Sicht einer angemessen informierten, aufmerksamen und verständigen natürlichen Person offensichtlich ist. Am Telefon ist das selten. Aktuelle Sprachsynthese klingt so natürlich, dass einige Anbieter genau damit werben: Telfo schreibt in der FAQ, kein Anrufer merke, dass er mit einer KI spricht, Voico wirbt auf der Startseite ähnlich. Eine Stimme, die bewusst menschlich klingen soll, ist das Gegenteil von offensichtlich. Rechnen Sie also nicht mit der Ausnahme.

So formulieren Sie den KI-Hinweis

Art. 50 Abs. 5 verlangt, dass die Information spätestens zum Zeitpunkt der ersten Interaktion in klarer und eindeutiger Weise bereitgestellt wird und die Barrierefreiheitsanforderungen erfüllt. Am Telefon lässt sich das in drei Regeln übersetzen:

1. Ganz am Anfang: im ersten Satz der Begrüßung, nicht erst, wenn der Anrufer fragt.
2. Eindeutig: „KI“ oder „künstliche Intelligenz“ sagen. Ob „digitaler Assistent“ allein genügt, ist nicht geklärt. Der Begriff „KI“ ist die sichere Wahl.
3. Verständlich: ruhiges Sprechtempo, kein Kleingedrucktes im Schnelldurchlauf.

Beispiele, die Sie anpassen können:

Eingehende Anrufe: „Guten Tag, Sie sind verbunden mit Müller Haustechnik. Ich bin der KI-Assistent des Teams und helfe Ihnen gern weiter. Wenn Sie lieber mit einem Mitarbeiter sprechen möchten, sagen Sie einfach ‚Mitarbeiter‘.“

Mit Transkript: „… Ich bin eine künstliche Intelligenz. Damit wir Ihr Anliegen bearbeiten können, schreibe ich das Gespräch mit. Weitere Informationen zum Datenschutz finden Sie auf unserer Website.“

Ausgehende Anrufe: „Guten Tag, hier spricht der KI-Assistent der Praxis Dr. Beispiel. Ich rufe an, um Ihren Termin am Donnerstag zu bestätigen.“

Die Option, einen Menschen zu verlangen, schreibt Art. 50 nicht vor. Sie verhindert aber verärgerte Anrufer und ist bei den meisten Anbietern als Weiterleitung einstellbar. Mehr zu guten Begrüßungstexten lesen Sie im Ratgeber Anrufbeantworter-Ansage geschäftlich.

Sonderfälle, die oft übersehen werden

Geklonte Stimme. Lassen Sie den Assistenten mit der nachgebildeten Stimme Ihres Geschäftsführers oder einer Mitarbeiterin sprechen, kann das unter die Deepfake-Regel des Art. 50 Abs. 4 fallen. Dann ist die Offenlegung zusätzlich Ihre Pflicht als Betreiber. Unsere Empfehlung: Nutzen Sie neutrale Anbieterstimmen, solange Sie das nicht rechtlich geprüft haben.

Stimmungsanalyse. Einige Systeme werten die Stimmung von Anrufern aus, etwa IONOS mit einer „Stimmungseinschätzung“ in der Anrufhistorie oder comdesk mit Sentiment-Analyse. Leitet ein System Emotionen aus biometrischen Daten wie der Stimme ab, gilt die Informationspflicht nach Art. 50 Abs. 3. Ob das bei Ihrem Anbieter so ist oder nur der Text ausgewertet wird, geht aus den öffentlichen Unterlagen nicht hervor. Fragen Sie schriftlich nach.

Ausgehende Werbeanrufe. Neben der KI-Verordnung gilt das UWG. Werbeanrufe bei Verbrauchern brauchen nach § 7 Abs. 2 Nr. 1 UWG deren vorherige ausdrückliche Einwilligung, bei Geschäftskunden zumindest eine mutmaßliche. Für Werbung mit einer „automatischen Anrufmaschine“ verlangt § 7 Abs. 2 Nr. 2 UWG immer die ausdrückliche Einwilligung. Ob ein KI-Voicebot darunter fällt, ist nach unserem Kenntnisstand nicht höchstrichterlich entschieden. Wer vorsichtig ist, holt die ausdrückliche Einwilligung ein. Mehr dazu unter KI-Outbound-Anrufe.

Aufzeichnung und Transkript. Der KI-Hinweis ersetzt keine Datenschutzinformation. Das unbefugte Aufnehmen des nichtöffentlich gesprochenen Wortes ist nach § 201 StGB strafbar, und nach Art. 13 DSGVO müssen Anrufer bei der Erhebung über die Verarbeitung informiert werden. Wie Sie das sauber lösen, steht im Ratgeber Telefongespräche aufzeichnen und im großen Überblick Datenschutz bei KI-Telefonie. Den passenden Vertrag mit dem Anbieter erklärt der Glossar-Eintrag Auftragsverarbeitungsvertrag.

Bußgelder und Aufsicht

Art. 99 Abs. 4 Buchst. g KI-Verordnung sieht für Verstöße gegen Art. 50 Geldbußen von bis zu 15 Mio. Euro oder bis zu 3 % des weltweiten Jahresumsatzes des Vorjahres vor, je nachdem, welcher Betrag höher ist. Für KMU und Start-ups dreht Art. 99 Abs. 6 das um: Hier gilt jeweils der niedrigere Betrag. Das sind Obergrenzen, keine Regelstrafen.

In Deutschland ist seit dem 29. Juli 2026 das KI-Marktüberwachungs- und Innovationsförderungsgesetz (KI-MIG, BGBl. 2026 I Nr. 223) in Kraft. Nach § 2 Abs. 1 KI-MIG ist grundsätzlich die Bundesnetzagentur die zuständige Marktüberwachungsbehörde. Ausnahmen gelten unter anderem für bestimmte KI-Systeme im Finanzbereich, die die BaFin überwacht. Wie streng die Bundesnetzagentur Art. 50 bei kleinen Unternehmen kontrolliert, lässt sich heute noch nicht sagen. Veröffentlichte Bußgeldentscheidungen zu KI-Telefonie haben wir bis zum Stand dieses Artikels nicht gefunden.

Welche Anbieter den KI-Hinweis mitbringen

Ein voreingestellter KI-Hinweis nimmt Ihnen das Risiko ab, dass eine Kollegin die Begrüßung ändert und den Satz versehentlich löscht. Laut den öffentlichen Unterlagen der Anbieter (Stand 26.10.2026) sieht das so aus:

Den Rest regelt bei jedem Anbieter Ihre Begrüßung. Ein fehlender Automatismus ist kein Ausschlusskriterium, er bedeutet nur, dass Sie den Satz selbst einbauen und nach jeder Änderung prüfen müssen. Die vollständige Bewertung nach Funktionen, Datenschutz und Preis finden Sie in unserem Anbieter-Vergleich, die Kriterien in der Methodik.

Wer ohne Kosten ausprobieren will, wie ein KI-Hinweis im echten Gespräch klingt, kann bei sipgate sona mit dem dauerhaft kostenlosen Free-Tarif (500 Minuten, ohne Kreditkarte) starten.

Für Betriebe, die vor allem Termine vergeben, ist Zeeg interessant: Der Assistent stellt sich laut Anbieter auch bei ausgehenden Anrufen als KI vor, die KI-Telefonie lässt sich mit 5 Freiminuten testen.

Zeeg KI-Telefonie ansehen →

Checkliste: KI-Kennzeichnung am Telefon in 7 Schritten

1. Rolle klären: In AGB oder Leistungsbeschreibung nachlesen, wer den KI-Hinweis verantwortet.
2. Begrüßung prüfen: Steht „KI“ oder „künstliche Intelligenz“ im ersten Satz, bei jeder Nummer und jedem Assistenten?
3. Ausgehende Anrufe: Eigene Begrüßung mit KI-Hinweis anlegen, Einwilligungen nach UWG dokumentieren.
4. Aufzeichnung und Transkript: Ansage zu Datenschutz ergänzen, Speicherfristen beim Anbieter einstellen.
5. Stimme: Keine geklonte Stimme einer echten Person ohne rechtliche Prüfung.
6. Stimmungsanalyse: Beim Anbieter erfragen, ob Emotionen aus der Stimme erkannt werden. Wenn ja, Anrufer informieren oder Funktion abschalten.
7. Testanruf: Nach jeder Änderung selbst anrufen und den Hinweis anhören. Datum und Ergebnis kurz notieren.

Was ein KI-Telefonassistent sonst noch leisten muss und wie er technisch funktioniert, erklärt der Ratgeber Voicebot. Wenn Sie zuerst die Kosten überschlagen wollen, hilft der Kostenrechner.

Häufige Fragen

Passend zum Thema