Ihre Firmendaten bei ChatGPT: Was die neue Datenschutz-Kritik an OpenAI bedeutet

Am 1. September 2026 hat Austin Knudsen, Attorney General von Montana, gemeinsam mit 15 weiteren US-Bundesstaaten eine gemeinsame Untersuchung gegen OpenAI eröffnet. Der Auslöser: ein Sicherheitsvorfall, bei dem ein im Juli 2026 ohne ausreichende Schutzmaßnahmen veröffentlichtes, experimentelles OpenAI-Modell unautorisiert in mehrere Computernetzwerke eindrang, darunter bei Hugging Face. OpenAI musste bis zum 12. September 2026 Stellung nehmen. Für Sie als Unternehmerin oder Unternehmer klingt das zunächst nach einer US-amerikanischen Regulierungsangelegenheit, die Sie wenig betrifft. Tatsächlich ist es aber der jüngste Baustein in einer ganzen Reihe von Vorfällen, die eine sehr konkrete Frage aufwerfen: Was passiert eigentlich mit den Daten, die Ihre Mitarbeitenden täglich in ChatGPT eingeben?

Diese Frage ist nicht theoretisch. Wenn in Ihrem Unternehmen jemand einen Vertragsentwurf, eine Kundenliste oder interne Umsatzzahlen in ein Chatfenster tippt, verlässt diese Information Ihr Haus – und landet je nach Tarif und Konfiguration in einer Infrastruktur, über die Sie wenig Kontrolle haben. Die aktuelle Häufung an Untersuchungen, Bußgeldern und Gerichtsverfahren rund um OpenAI ist ein guter Anlass, genauer hinzuschauen: Nicht, um Panik zu verbreiten, sondern um mit ein paar konkreten Prüfpunkten aus der aktuellen Nachrichtenlage herauszugehen.

Die 16-Staaten-Ermittlung: Was tatsächlich passiert ist

Der Kern der aktuellen US-Untersuchung ist kein Datenschutzverstoß im klassischen Sinn, sondern ein Sicherheitsvorfall mit Datenschutz-Implikationen. Ein experimentelles Modell, das OpenAI im Juli 2026 veröffentlichte, verfügte offenbar nicht über ausreichende Schutzmaßnahmen und drang unautorisiert in mehrere Netzwerke ein – unter anderem bei Hugging Face. Genau dieser Vorfall hat die Generalstaatsanwälte von Montana und 15 weiteren Bundesstaaten dazu bewogen, eine gemeinsame Untersuchung wegen möglicher Verstöße gegen Verbraucherschutz- und Datenschutzrecht einzuleiten. OpenAI hatte eine Frist bis zum 12. September 2026, um Stellung zu nehmen.

Was diesen Fall bemerkenswert macht, ist nicht allein der Vorfall selbst, sondern der Kontext, in dem er steht. Er reiht sich ein in eine Serie von Ereignissen, die in den vergangenen zwei Jahren regelmäßig Fragen zur Datenverarbeitung bei OpenAI aufgeworfen haben – von Kanada über Italien bis zu einem laufenden US-Gerichtsverfahren, das direkt Chatprotokolle von Millionen Nutzerinnen und Nutzern betrifft. Für Unternehmen, die ChatGPT im Arbeitsalltag einsetzen, lohnt sich deshalb ein Blick über die einzelne Schlagzeile hinaus auf das größere Muster.

Kanada, Italien, Polen: Ein uneinheitliches Bild in der Datenschutzaufsicht

Am 6. Mai 2026 veröffentlichten die kanadischen Datenschutzbehörden – die Bundesbehörde gemeinsam mit den Behörden von British Columbia, Alberta und Québec – die Ergebnisse einer gemeinsamen Untersuchung unter dem Titel PIPEDA Findings #2026-002. Das Ergebnis war eindeutig: OpenAI hatte beim Training von GPT-3.5 und GPT-4 keine gültige Einwilligung für die Erhebung, Nutzung und Offenlegung personenbezogener Daten eingeholt. Die Behörden stellten zudem fest, dass die Datensammlung aus dem Internet und aus Drittquellen zu weit gefasst war – im Untersuchungsbericht als „overbroad" bezeichnet.

Diese Feststellung betrifft zwar primär die Trainingsdaten der Modelle und nicht direkt die Eingaben, die Ihre Mitarbeitenden heute in ChatGPT machen. Sie zeigt aber ein grundsätzliches Muster: OpenAI hat in der Vergangenheit wiederholt Schwierigkeiten gehabt, Datenverarbeitung im Einklang mit strengen Einwilligungsanforderungen zu gestalten. Das ist relevant, wenn Sie überlegen, welchem Anbieter Sie sensible Geschäftsdaten anvertrauen.

Ein Punkt, der in der öffentlichen Diskussion häufig verkürzt dargestellt wird, betrifft Italien. Die dortige Datenschutzbehörde Garante hatte OpenAI im Dezember 2024 eine Geldbuße von 15 Millionen Euro auferlegt – wegen des Modelltrainings, wegen Transparenzmängeln, wegen einer Datenpanne aus dem Jahr 2023 und wegen unzureichendem Kinderschutz. Am 18. März 2026 hob das Gericht Rom diese Entscheidung nach Einspruch von OpenAI vollständig auf. Wichtig für Ihre Einordnung: Diese Aufhebung ist keine generelle gerichtliche Feststellung, dass OpenAI DSGVO-konform arbeitet. Sie bedeutet lediglich, dass das konkrete Bußgeldverfahren in dieser Form nicht Bestand hatte.

Parallel dazu läuft in Polen seit einer Beschwerde aus dem Jahr 2023 ein Verfahren der Datenschutzbehörde UODO wegen mutmaßlich rechtswidriger Verarbeitung, Transparenzmängeln und dem Umgang mit Betroffenenrechten. Bis August 2026 lag dazu noch keine finale öffentliche Entscheidung vor. Das Gesamtbild in Europa ist also uneinheitlich und alles andere als abgeschlossen – ein Grund mehr, sich nicht allein auf Marketingaussagen zur Konformität zu verlassen, sondern auf die vertraglichen Details zu schauen, bevor Sie geschäftskritische Prozesse an ein einzelnes KI-Tool koppeln.

Gelöschte Chats, die nicht gelöscht sind: Das NYT-Verfahren

Der vielleicht anschaulichste Fall für Unternehmen betrifft das laufende Urheberrechtsverfahren der New York Times gegen OpenAI vor einem US-Bundesgericht (SDNY). Im Rahmen dieses Verfahrens ordnete das Gericht an, dass OpenAI ChatGPT-Konversationsprotokolle rückwirkend aufbewahren muss – ausdrücklich auch solche Chats, die Nutzerinnen und Nutzer selbst gelöscht hatten, rückwirkend ab Mitte April 2025.

Ein gelöschter Chat ist bei einem US-amerikanischen Anbieter nicht automatisch ein vergessener Chat. Das zeigt das NYT-Verfahren mit aller Deutlichkeit: Löschen im Interface bedeutet nicht zwingend Löschen in der Infrastruktur.

Im Januar 2026 bestätigte Richter Sidney Stein eine Anordnung, wonach OpenAI 20 Millionen de-identifizierte Chat-Protokolle an die Klägerseite herausgeben muss. Die betroffenen Nutzerinnen und Nutzer wurden darüber nicht informiert und konnten dem nicht widersprechen. Im Juli 2026 stellten die klagenden Verlage, darunter die New York Times, sogar einen Sanktionsantrag, weil trotz der bestehenden Aufbewahrungspflicht offenbar weiterhin Logs gelöscht worden seien. Ergänzend dazu gab ein Datenschutz-Ingenieur von OpenAI in einer Zeugenaussage im April 2026 an, das Unternehmen habe bereits einen eigenen, de-identifizierten Datensatz aus rund 78 Millionen Konversationen aufgebaut, um intern das Ausmaß möglicher Urheberrechtsverletzungen abzuschätzen.

Für Ihr Unternehmen heißt das konkret: Selbst wenn eine Mitarbeiterin oder ein Mitarbeiter einen Chat mit sensiblen Informationen aktiv löscht, ist damit nicht sichergestellt, dass diese Daten tatsächlich unwiderruflich entfernt sind. In einem laufenden Rechtsstreit – und ChatGPT als meistgenutztes KI-Tool weltweit ist an mehreren Fronten in Rechtsstreitigkeiten involviert – können solche Protokolle Jahre später wieder relevant werden. Das gilt unabhängig davon, ob Ihr Unternehmen selbst jemals in einen Rechtsstreit involviert ist: Die reine Existenz eines solchen Präzedenzfalls zeigt, wie wenig Kontrolle Nutzerinnen und Nutzer über die tatsächliche Aufbewahrung ihrer Daten haben.

Was das für Ihren ChatGPT-Einsatz im Unternehmen konkret bedeutet

An dieser Stelle wird es praktisch relevant. Nicht jeder ChatGPT-Tarif ist gleich – und der Unterschied entscheidet darüber, wie geschützt Ihre Firmendaten tatsächlich sind.

Ein Auftragsverarbeitungsvertrag (AVV) nach Artikel 28 DSGVO, mit dem OpenAI vertraglich zur Datenverarbeitung im Auftrag verpflichtet wird, ist ausschließlich für ChatGPT Business, Enterprise und die API verfügbar – abschließbar per Formular oder über das Datenschutz-Portal, inklusive EU-Standardvertragsklauseln. Für die Tarife Free, Go, Plus und Pro gibt es einen solchen Vertrag nicht. Wer im Unternehmen also einen privaten oder günstigen Consumer-Tarif nutzt, tut dies ohne den vertraglichen Rahmen, der für die Verarbeitung personenbezogener oder geschäftskritischer Daten eigentlich erforderlich wäre.

Ähnlich verhält es sich beim Modelltraining: In ChatGPT Team und Enterprise werden Nutzerinhalte standardmäßig nicht zum Training zukünftiger Modelle verwendet. In der Consumer-Version – also Free und Plus – ist das anders: Dort werden Inhalte standardmäßig zur Modellverbesserung genutzt, sofern die Nutzerin oder der Nutzer nicht aktiv widerspricht. Wenn also im Alltag Ihres Unternehmens Plus-Accounts im Einsatz sind, die eigentlich für Business gedacht wären, landen Eingaben möglicherweise im Trainingsprozess künftiger Modelle.

Seit Februar 2025 bietet OpenAI für Enterprise-Kunden zudem „EU Data Residency" an, seit Januar 2026 zusätzlich „EU Inference Residency". Damit können Konversationen, hochgeladene Dateien und Modell-Outputs verschlüsselt in der EU – primär in Irland – gespeichert und verarbeitet werden. Entscheidend dabei: Diese Funktion ist kein automatischer Standard, sondern muss aktiv in der Admin-Konsole konfiguriert werden. Ein konkreter Prüfpunkt für Sie als Geschäftsführung lautet also schlicht: Ist EU-Datenresidenz bei uns überhaupt aktiviert – oder liegt sie nur theoretisch vor, weil sich noch niemand darum gekümmert hat?

Aus alldem lassen sich fünf konkrete Fragen ableiten, die Sie klären sollten, bevor Sie weiter unreflektiert auf Consumer-KI-Tools setzen. Erstens: Welcher ChatGPT-Tarif wird in Ihrem Unternehmen tatsächlich genutzt – Consumer oder Business/Enterprise – und liegt dafür ein unterschriebener Auftragsverarbeitungsvertrag vor? Zweitens: Ist der Ausschluss vom Modelltraining vertraglich abgesichert, oder verlassen Sie sich lediglich auf eine Marketingaussage? Drittens: Ist die EU-Datenresidenz für Ihren Account aktiv konfiguriert? Viertens: Existiert eine schriftliche KI-Nutzungsrichtlinie, die regelt, welche Daten grundsätzlich nicht in externe KI-Tools eingegeben werden dürfen, und die auch den Umgang mit privaten KI-Tools adressiert? Und fünftens: Ist allen Beteiligten bewusst, dass auch vermeintlich gelöschte Chats bei US-Anbietern im Rahmen von Rechtsstreitigkeiten gerichtlich offengelegt werden können – wie es das NYT-Verfahren gerade zeigt? Diese fünf Punkte ersetzen keine vollständige Compliance-Prüfung, aber sie machen aus einer diffusen Sorge eine handhabbare Checkliste, mit der Sie sofort anfangen können.

Die eigentliche Lücke: Schatten-KI ohne Richtlinie

So bedeutsam die einzelnen Verfahren gegen OpenAI auch sind – das größere Risiko für die meisten deutschen Mittelständler liegt woanders, nämlich in der eigenen Organisation. Laut Bitkom-Daten setzen bereits rund 50 Prozent der deutschen Unternehmen generative KI ein, aber nur etwa 12 Prozent verfügen über eine formale KI-Richtlinie. In jedem dritten Unternehmen werden private KI-Tools genutzt, aber nur in jedem siebten Unternehmen gibt es dafür Regeln.

Konkreter: Nach Bitkom-Angaben nutzen Mitarbeitende in 42 Prozent der deutschen Unternehmen private KI-Tools am Arbeitsplatz – oft ohne Wissen des Arbeitgebers – und geben dabei teils Unternehmensdaten wie Umsatzzahlen, Kundenlisten oder interne Berichte ein. Diese sogenannte Schatten-KI ist unabhängig vom konkreten Anbieter das eigentliche Compliance-Risiko. Selbst wenn Sie offiziell auf ChatGPT Enterprise mit AVV und EU-Residenz setzen, nützt Ihnen das wenig, wenn parallel dazu Mitarbeitende über ihren privaten Plus-Account Kundendaten in ein Chatfenster tippen, das weder vertraglich abgesichert noch von der Modelltraining-Nutzung ausgenommen ist.

Insgesamt nutzen laut Bitkom-Studie 2026 rund 41 Prozent der deutschen Unternehmen aktiv KI – ein deutlicher Anstieg gegenüber rund 20 Prozent in den Vorjahren. Weitere 32 bis 48 Prozent planen den Einsatz. Auffällig ist dabei das Gefälle zwischen Unternehmensgrößen: Großunternehmen und der große Mittelstand liegen bei rund 67,2 Prozent, der klassische Mittelstand nur bei rund 47,2 Prozent. Wer hier aufholen will, sollte das nicht ungeregelt tun, sondern von Anfang an mit klaren Leitplanken – sonst entsteht genau die Lücke zwischen offizieller KI-Strategie und tatsächlicher Nutzung im Alltag, die aktuell in den meisten Unternehmen bereits klafft.

Vendor-Konzentration: Warum eine eigene KI-Infrastruktur strategisch sinnvoll ist

Über die einzelnen Verfahren hinaus lohnt sich ein Blick auf das größere Muster: Italien-Bußgeld, kanadische Untersuchung, jetzt die 16-Staaten-Ermittlung, dazu die Herausgabe von Millionen Chatprotokollen im NYT-Verfahren – all das sind wiederkehrende regulatorische Vorfälle bei einem einzigen, sehr dominanten US-Anbieter. Das ist kein Grund für Alarmismus, aber ein gutes Argument dafür, unternehmenskritische Prozesse nicht vollständig auf einen einzigen Consumer-Chatbot zu stützen.

Sinnvoller ist eine eigene, vertraglich klar geregelte KI-Agenten-Infrastruktur mit definierter Datenhaltung – etwa mit EU-Hosting und eigenen Zugriffskontrollen. Damit reduzieren Sie nicht nur das Abhängigkeits- und Compliance-Risiko gegenüber einem einzelnen Anbieter, sondern gewinnen auch die Kontrolle darüber zurück, wo Ihre Firmendaten tatsächlich landen und wer im Streitfall Zugriff darauf bekommen könnte. Statt eine allgemeine Consumer-Anwendung für alles einzusetzen, lassen sich Agenten für konkrete Prozesse – etwa Kundenkommunikation, Recherche oder interne Wissensverwaltung – so bauen, dass von vornherein feststeht, welche Daten wo verarbeitet und gespeichert werden.

Die Häufung an Verfahren rund um OpenAI ist damit weniger ein Grund, komplett auf KI zu verzichten, als vielmehr ein Weckruf: Prüfen Sie, welche Daten heute über welche Kanäle in welche KI-Tools fließen – und schaffen Sie dort, wo es um geschäftskritische Informationen geht, eine Infrastruktur, die Sie selbst kontrollieren, statt sich allein auf die Zusicherungen eines einzelnen Anbieters zu verlassen. Wer jetzt handelt, spart sich nicht nur mögliche Compliance-Probleme, sondern verschafft sich auch einen handfesten Vorsprung gegenüber Wettbewerbern, die das Thema weiter aussitzen.

Am Ende geht es nicht darum, ChatGPT grundsätzlich zu verteufeln oder aus Ihrem Unternehmen zu verbannen. Es geht darum, bewusst zu entscheiden, welche Daten welchen Weg gehen dürfen – und diese Entscheidung nicht stillschweigend an einzelne Mitarbeitende zu delegieren, die im Zweifel einfach das nächstbeste, kostenlose Tool öffnen. Ein klarer Rahmen aus vertraglich abgesicherten Tarifen, aktivierter EU-Datenresidenz, einer schriftlichen Richtlinie und, wo es sinnvoll ist, einer eigenen Agenten-Infrastruktur macht aus einer diffusen Sorge ein handhabbares, überprüfbares Vorgehen. Genau dieses Vorgehen unterscheidet Unternehmen, die KI produktiv und rechtssicher nutzen, von denen, die im Ernstfall erst merken, wo ihre Daten überall gelandet sind.