Unter 300 Millisekunden: Wird Ihr Telefon zum KI-Mitarbeiter?

Seit einigen Wochen kursiert eine Zahl durch die Fachpresse, die auf den ersten Blick technisch klingt, aber sehr praktische Folgen für Ihr Unternehmen hat: unter 300 Millisekunden. So schnell soll ein KI-Sprachmodell inzwischen antworten können - schneller, als die meisten Menschen eine Gesprächspause überhaupt bewusst wahrnehmen. Hinter der Zahl steckt GPT-Live, OpenAIs dritte Generation des ChatGPT-Sprachmodells. Und obwohl der eigentliche Launch bereits am 8. Juli 2026 stattfand, sorgt das Thema gerade jetzt, im Spätsommer 2026, für neue Aufmerksamkeit in der Wirtschaftspresse - vermutlich, weil immer mehr Anbieter von Telefonassistenten die zugrunde liegende Technologie in reale Produkte für den Mittelstand gießen.

Für Sie als Unternehmerin oder Unternehmer stellt sich damit eine sehr konkrete Frage: Kann Ihr Telefon jetzt tatsächlich zu einem KI-Mitarbeiter werden, der Anrufe so flüssig entgegennimmt, dass Kundinnen und Kunden den Unterschied kaum noch bemerken? Und wenn ja - was bedeutet das technisch, wirtschaftlich und vor allem rechtlich für Sie? Dieser Artikel ordnet die Fakten ein, ohne die Marketingversprechen unkritisch zu übernehmen.

GPT-Live: Was hinter dem Full-Duplex-Versprechen steckt

Um zu verstehen, warum GPT-Live gerade für Telefonie relevant ist, lohnt sich ein Blick auf die technische Neuerung. Bisherige Sprachmodelle - auch der bekannte "Advanced Voice Mode" von ChatGPT - arbeiteten rundenbasiert: Sie sprechen, das Modell hört zu, das Modell antwortet, Sie hören zu. Wie ein Funkgerät, nur eben mit natürlicher Sprache statt "over".

GPT-Live durchbricht dieses Muster. Das Modell arbeitet full-duplex, hört und spricht also gleichzeitig. Es kann Sie unterbrechen, sich unterbrechen lassen, kurz bestätigen ("mhm", "verstehe") während Sie noch sprechen, oder bewusst schweigen, um Ihnen Raum zu geben. Genau das ist der Mechanismus, den Menschen in echten Gesprächen ständig nutzen - und genau das fehlte bisherigen Voicebots, weshalb sie sich oft roboterhaft und zäh anfühlten.

Wichtig für die Einordnung: GPT-Live ist heute der Standard-Sprachmodus für ChatGPT Go, Plus und Pro. Für Nutzerinnen und Nutzer der kostenlosen Version übernimmt eine leichtere Variante, GPT-Live-1 mini, diese Rolle. Das ist zunächst ein Endkonsumenten-Feature - und genau hier beginnt die erste wichtige Klarstellung für Unternehmen.

Die 300-Millisekunden-Marke: Zielwert, keine Garantie

Die vielzitierte Latenzmarke von unter 300 Millisekunden bezieht sich konkret auf die Zeit bis zum ersten Audio-Chunk, also bis die ersten Tonfragmente der KI-Antwort beim Gegenüber ankommen - nicht auf die gesamte Antwortdauer. OpenAI selbst hat dazu bislang keine offiziellen Rohmesswerte veröffentlicht, was in der Fachwelt für einige Diskussion sorgt.

Unabhängige Messungen des Anbieters Agora kommen auf einen realistischeren Median von etwa 300 bis 600 Millisekunden - abhängig von Netzwerkbedingungen, Auslastung und weiteren Faktoren. Was sich aber unabhängig bestätigen lässt: Die p95-Latenz, also der Wert, den neun von zehn Anfragen unterschreiten, liegt bei GPT-Live-1 rund 25 Prozent niedriger als beim Vorgängermodell gpt-realtime-2. Das ist ein spürbarer technischer Fortschritt, auch wenn "unter 300 Millisekunden" eher als Bestfall-Zielgröße zu verstehen ist als als garantierter Durchschnittswert - insbesondere, wenn zusätzlich klassische Telefonie-Codecs mit eigener Latenz ins Spiel kommen, etwa bei Anrufen über das klassische Mobilfunk- oder Festnetz.

Für die Praxis heißt das: Die frühere Antwortlücke von ein bis zwei Sekunden, die typische Voicebots bislang unnatürlich wirken ließ, verkleinert sich mit Full-Duplex-Modellen wie GPT-Live beziehungsweise dessen Business-Pendant deutlich. Genau diese Lücke war es, die viele KI-Telefonprojekte bisher zur Spielerei degradierte statt zum alltagstauglichen Werkzeug zu machen.

ChatGPT Voice ist nicht Ihr Telefonassistent - die Realtime API schon eher

Hier lauert das größte Missverständnis, das gerade durch viele Zusammenfassungen geistert: GPT-Live ist in erster Linie das Sprachfeature innerhalb der ChatGPT-App für Endkundinnen und -kunden. Nach allem, was Fachquellen berichten, gibt es dafür keine eigene, separat vermarktete Business-API, die sich einfach an Ihre Telefonanlage anschließen ließe. "Sie bekommen jetzt ChatGPT ans Telefon" wäre also eine irreführende Verkürzung.

Was Anbieter von KI-Telefonassistenten technisch tatsächlich integrieren, ist die OpenAI Realtime API - konkret die Modelle gpt-realtime-2.1 beziehungsweise die kompaktere Variante gpt-realtime-2.1-mini. Diese laufen auf derselben architektonischen Grundlage wie GPT-Live und profitieren von denselben Full-Duplex-Fähigkeiten und Latenzverbesserungen, sind aber ein eigenständiges Produkt, das Softwareanbieter in ihre Telefonanlagen-, CRM- oder Praxissoftware-Lösungen einbetten.

Für Sie als Unternehmen bedeutet das in der Praxis: Sie werden in aller Regel nicht direkt mit der OpenAI-API arbeiten, sondern mit einem fertigen Produkt eines Telefonassistenten-Anbieters, der diese Technologie bereits integriert, mit einer Telefonnummer, einem Kalender-Sync und einer Benutzeroberfläche versehen hat. Das ist keine schlechte Nachricht - es macht den Einstieg deutlich einfacher -, aber es lohnt sich, bei der Anbieterwahl gezielt nachzufragen, welches Modell tatsächlich im Hintergrund läuft und wie aktuell die eingesetzte Version ist.

Was ein KI-Telefonassistent wirklich kostet

Die reinen API-Rohkosten wirken auf den ersten Blick verschwindend gering. Bei der Realtime API wird Sprache in Tokens umgerechnet: Eine Minute Nutzerspracheingabe entspricht etwa 600 Tokens, eine Minute Modellantwort etwa 1.200 Tokens. Beim Flaggschiffmodell gpt-realtime-2.1 kostet Audio-Input rund 32 US-Dollar pro Million Tokens unkomprimiert beziehungsweise 0,40 US-Dollar bei bereits zwischengespeicherten Inhalten, Audio-Output rund 64 US-Dollar pro Million Tokens. Die kompaktere Mini-Variante liegt bei etwa einem Drittel bis einem Fünftel dieser Werte.

Hochgerechnet auf eine Gesprächsminute ergeben sich daraus laut Branchenauswertungen ungefähr 0,06 bis 0,11 US-Dollar pro Minute beim Flaggschiffmodell und 0,02 bis 0,05 US-Dollar bei der Mini-Variante - vorausgesetzt, das Prompt-Caching funktioniert wie vorgesehen. Das klingt nach Kleingeld. Für Sie als KMU sind diese Rohkosten aber meist gar nicht direkt nutzbar, weil dafür eigene Entwicklungskapazität nötig wäre. Stattdessen zahlen Sie den Aufpreis einer fertigen Lösung.

Und der ist deutlich höher, aber immer noch überschaubar: Fertige KI-Telefonassistenten für den deutschen Mittelstand kosten laut Anbieterangaben meist zwischen 30 und über 500 Euro im Monat, mit einer realistischen Spanne für die meisten Betriebe von 80 bis 200 Euro monatlich zuzüglich einer einmaligen Einrichtung von 100 bis 500 Euro. Konkrete Einstiegsangebote liegen bei rund 99 Euro pro Monat inklusive 250 Freiminuten. Wer eine tiefere, individuellere Integration in bestehende Telefon- oder Praxissoftware benötigt, muss laut anderen Quellen mit Einrichtungskosten von 2.000 bis 15.000 Euro und Gesamtkosten im ersten Jahr von 10.000 bis 50.000 Euro rechnen - eine erhebliche Bandbreite, die stark von Integrationstiefe und Anbieter abhängt.

Ein häufig zitiertes Rechenbeispiel aus der Anbieterwelt: Eine Zahnarztpraxis mit rund 300 Anrufen im Monat und durchschnittlich zwei Minuten Gesprächsdauer landet bei einem Tarif von etwa 199 Euro monatlich (166 Euro bei jährlicher Zahlung). Eine vergleichbare Minijob-Telefonkraft koste demgegenüber ab rund 600 Euro monatlich - ohne Abdeckung von Stoßzeiten, Abenden oder Wochenenden. Die genannte Ersparnis von über 400 Euro im Monat stammt aus Anbieter-Marketingmaterial und ist keine unabhängig geprüfte Studie, gibt aber eine plausible Größenordnung wieder.

Eine KI-Stimme, die in unter 300 Millisekunden antwortet, wirkt für viele Anruferinnen und Anrufer kaum noch von einem Menschen zu unterscheiden - genau deshalb muss in den ersten Sekunden des Gesprächs zweifelsfrei klar werden, dass am anderen Ende eine Maschine spricht.

Was Sie vor dem Start rechtlich klären müssen

Genau dieser Punkt führt zur wichtigsten Voraussetzung, bevor Sie einen KI-Telefonassistenten überhaupt in Betrieb nehmen: die Rechtslage. Seit dem 2. August 2026 gelten die Transparenzpflichten aus Artikel 50 des EU AI Act verbindlich. Wer mit einem KI-Sprachsystem - Chatbot, Voicebot oder virtueller Assistent - direkt kommuniziert, muss vom Anbieter oder Betreiber darüber informiert werden, dass er mit einer KI interagiert. Ausnahmen gelten nur, wenn dies für eine informierte Person ohnehin offensichtlich ist, was bei einer täuschend menschlich klingenden Full-Duplex-Stimme kaum mehr der Fall sein dürfte.

Verstöße gegen diese Kennzeichnungspflicht sind kein Kavaliersdelikt: Nach Artikel 99 des EU AI Act drohen Bußgelder bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes - je nachdem, welcher Betrag höher liegt. Für ein mittelständisches Unternehmen sollte diese Zahl allein Grund genug sein, die Ansage am Gesprächsbeginn nicht als lästige Formalie, sondern als feste Voraussetzung des Projekts zu behandeln.

Damit ist es aber noch nicht getan. In Deutschland kommt eine zweite, oft übersehene rechtliche Ebene hinzu: Die für KI-Telefonie technisch meist notwendige Aufzeichnung beziehungsweise Verarbeitung des Gesprächs ist ohne ausdrückliche Einwilligung des Anrufers nach Paragraph 201 des Strafgesetzbuchs - Verletzung der Vertraulichkeit des Wortes - strafbar, mit Freiheitsstrafe bis zu drei Jahren oder Geldstrafe. Eine reine Ansage zu Gesprächsbeginn schafft zwar Transparenz im Sinne des AI Act, ersetzt aber nicht automatisch eine wirksame Einwilligung. Entscheidend ist, dass der Anrufer tatsächlich die Möglichkeit hat, das Gespräch auch ohne Aufzeichnung fortzusetzen - eine reine "Wer weiterspricht, stimmt zu"-Formulierung reicht rechtlich nicht sicher aus.

Bei ausgehenden Anrufen, also wenn Ihr KI-Assistent aktiv Kundinnen und Kunden anruft, gilt ohnehin eine strengere Vorgabe: Das deutsche Recht verlangt eine ausdrückliche vorherige Einwilligung des Angerufenen. Eine bestehende Geschäftsbeziehung allein reicht dafür nicht aus. Wer also über automatisierte Rückrufe oder Erinnerungsanrufe nachdenkt, sollte diesen Punkt vorab mit dem Anbieter und gegebenenfalls rechtlich klären.

Lohnt sich das für Ihren Betrieb?

Trotz aller rechtlichen Sorgfaltspflichten: KI-Telefonassistenten sind 2026 längst keine Zukunftsvision mehr, sondern nach Angaben von Marktbeobachtern bereits bei über 120.000 deutschen Unternehmen im Einsatz - eine Zahl, die aus einer einzelnen Branchenquelle stammt und daher mit der gebotenen Vorsicht zu lesen ist, aber die grundsätzliche Marktdynamik gut widerspiegelt.

Typische Einsatzfelder laut Branchenquellen sind die Erreichbarkeit außerhalb der Geschäftszeiten, die Terminvergabe und -verwaltung mit Kalenderanbindung, die Erstqualifizierung von Anliegen sowie die Annahme von Rückrufwünschen. Die durchschnittliche Gesprächsdauer wird von Anbietern mit 60 bis 120 Sekunden angegeben, die Abschlussquote - also der Anteil der Anrufe, die ohne menschliches Eingreifen zum gewünschten Ergebnis führen - mit 70 bis 90 Prozent. Beide Werte stammen aus Anbieter-Marketingmaterial und sind keine unabhängig geprüften Branchenbenchmarks, geben aber eine Orientierung.

Als grobe Faustregel aus der Praxis gilt: Ein KI-Telefonassistent rechnet sich wirtschaftlich meist ab etwa 15 bis 20 eingehenden Anrufen pro Tag mit einem hohen Anteil wiederkehrender Standardanliegen, beziehungsweise ab rund 300 Gesprächsminuten im Monat, verglichen mit den Kosten eines externen Call-Service. Der eigentliche Mehrwert liegt dabei häufig weniger in der reinen Kostenersparnis als in der besseren Abdeckung von Abenden, Wochenenden und Krankheitsausfällen - Zeiten, in denen bislang schlicht niemand ans Telefon ging und Anfragen verloren gingen.

Bei komplexeren oder emotional aufgeladenen Anliegen stößt die Technologie dagegen weiterhin an Grenzen - hier bleibt die Weiterleitung an einen Menschen sinnvoll. Wer beispielsweise im Gesundheitswesen tätig ist, sollte zudem bedenken, dass Terminanliegen am Telefon indirekt Rückschlüsse auf Behandlungen zulassen können. Für diesen speziellen Anwendungsfall sind ein sauberer Auftragsverarbeitungsvertrag mit dem Anbieter und ein DSGVO-konformer Verarbeitungsstandort in der EU besonders wichtig - auch wenn hierzu über die allgemeinen Vorgaben hinaus keine zusätzlichen, spezifisch verifizierten Anforderungen vorlagen und deshalb im Zweifel eine gezielte rechtliche Prüfung sinnvoll ist.

Die technische Entwicklung rund um GPT-Live und die Realtime API ist real und spürbar: Full-Duplex-Gespräche mit deutlich reduzierter Latenz machen aus früheren Demo-Spielereien zunehmend alltagstaugliche Werkzeuge für telefonlastige Branchen wie Handwerk, Arztpraxen, Handel oder Dienstleistung. Gleichzeitig lohnt es sich, die Marketingbotschaften mit der gebotenen Distanz zu lesen: "Unter 300 Millisekunden" ist ein Zielwert, kein garantierter Durchschnitt, "ChatGPT ans Telefon" ist eine Vereinfachung der tatsächlichen technischen Architektur, und jede Kostenangabe aus der Anbieterwelt sollte als Spanne, nicht als feste Zusage verstanden werden.

Wer jetzt einsteigen will, sollte drei Dinge parallel angehen: die technische Anbieterwahl auf Basis des tatsächlichen wirtschaftlichen Anrufvolumens, die saubere rechtliche Absicherung nach EU AI Act und Paragraph 201 StGB, und eine realistische Erwartungshaltung an das, was die KI übernehmen kann - und was weiterhin beim menschlichen Team bleiben sollte. Denn selbst die schnellste und natürlichste Stimme ersetzt kein Fingerspitzengefühl bei einer verärgerten Kundin oder einem komplizierten Sonderfall, der sich nicht in ein Standardformular pressen lässt.

Praktisch heißt das für die Einführung: Starten Sie nicht mit dem kompletten Anrufaufkommen, sondern mit einem klar abgegrenzten Teilbereich - etwa ausschließlich mit Anrufen außerhalb der Geschäftszeiten oder mit der reinen Terminvergabe. So sammeln Sie in wenigen Wochen belastbare Erfahrungswerte zu Abschlussquote, tatsächlicher Latenz in Ihrem konkreten Telefonnetz und zur Akzeptanz bei Ihren Kundinnen und Kunden, bevor Sie den Assistenten auf weitere Anwendungsfälle ausweiten. Parallel dazu sollten Sie mit Ihrem Anbieter schriftlich festhalten, welches Modell im Hintergrund läuft, wo die Daten verarbeitet werden und wie die Einwilligung zur Gesprächsaufzeichnung technisch umgesetzt ist - nicht erst, wenn die erste Beschwerde oder Anfrage einer Aufsichtsbehörde eintrifft, sondern von Anfang an als festen Bestandteil des Projekts.

Am Ende bleibt eine nüchterne Bilanz: Die Technik ist so weit, dass sie im Alltag trägt - nicht mehr nur in der Demo. Ob sich der Schritt für Ihren Betrieb lohnt, entscheidet sich aber nicht an der Latenzmarke, sondern an Ihrem tatsächlichen Anrufvolumen, an der sauberen rechtlichen Vorbereitung und an der Bereitschaft, das Projekt schrittweise und mit realistischen Erwartungen anzugehen.