Testpflicht für KI-Modelle: So erkennen Sie vertrauenswürdige Anbieter

Seit dem 2. Juni 2026 gibt es in den USA eine Executive Order, die das Verhältnis zwischen Regierung und KI-Anbietern neu ordnet. Und seit dieser Woche verhandelt das Weiße Haus mit OpenAI, Google und Anthropic offenbar über die konkrete Umsetzung: einen Rahmen für Vorab-Tests neuer KI-Modelle, bevor diese veröffentlicht werden. Eine offizielle Ankündigung wurde für die Woche ab dem 7. Juli 2026 erwartet – zum Zeitpunkt dieses Artikels lag sie noch nicht vor. Was aber schon jetzt feststeht: Für Sie als Geschäftsführer oder Entscheiderin, die KI-Werkzeuge und Agenten einkauft, entsteht damit eine neue, öffentlich sichtbare Referenzgröße für die Anbieterauswahl. Wir zeigen Ihnen, was hinter der Meldung steckt, was sie nicht bedeutet – und mit welcher Checkliste Sie schon heute vertrauenswürdige Anbieter erkennen.

Keine Testpflicht, sondern ein freiwilliger Rahmen mit Anreizen

Der im Titel dieses Artikels verwendete Begriff "Testpflicht" ist zugespitzt – und genau deshalb sollten wir ihn direkt einordnen. Grundlage der aktuellen Entwicklung ist die Executive Order "Promoting Advanced Artificial Intelligence Innovation and Security", die Präsident Trump am 2. Juni 2026 unterzeichnet hat. Sie bindet das Handelsministerium mit seinem Center for AI Standards and Innovation (CAISI), das Verteidigungsministerium, das Heimatschutzministerium mit CISA sowie das Office of Management and Budget ein.

Zentral ist das neu eingeführte Konzept des "covered frontier model": Anbieter können der Regierung vor der Veröffentlichung eines besonders leistungsfähigen Modells für bis zu 30 Tage Zugang gewähren, damit Behörden mögliche nationale Sicherheitsrisiken prüfen – vor allem im Bereich Cyberangriffe sowie biologische und chemische Waffen. Die Order stellt dabei ausdrücklich klar, dass daraus keine verpflichtende Lizenzierung, keine Vorab-Genehmigung und keine förmliche Zulassungspflicht entstehen soll.

Die Teilnahme bleibt formal freiwillig – ist faktisch aber an handfeste Anreize gekoppelt, etwa den Zugang zu Bundes-Cloud-Verträgen und zur staatlichen KI-Beschaffung. Wer nicht mitspielt, verliert Marktzugang zu einem der größten Einkäufer der Welt.

Genau diese Kopplung macht aus einem freiwilligen Programm in der Praxis etwas, das sich für die großen Anbieter kaum ignorieren lässt. Zuständige Prüfbehörde ist CAISI, der Nachfolger des früheren "AI Safety Institute" innerhalb des NIST. CAISI hat bereits Testvereinbarungen mit OpenAI, Anthropic, Google DeepMind, Microsoft und xAI geschlossen. Presseberichten zufolge wurden bereits über 40 Modellbewertungen durchgeführt, teils klassifiziert über die interagency "TRAINS Taskforce", mit Fokus auf Cyber-, Bio- und Chemiewaffenrisiken. Eine offizielle Primärquelle, die diese Zahl bestätigt, konnten wir bei der Recherche nicht finden – wir geben sie deshalb ausdrücklich als Presseberichterstattung wieder, nicht als bestätigten Fakt.

Offen ist zudem, ab welcher Rechenleistung oder welchen Benchmark-Werten ein Modell überhaupt als "covered frontier model" gilt. Die Executive Order sieht dafür eine 60-Tage-Frist vor, die auf etwa den 1. August 2026 fällt. Unternehmen drängen Berichten zufolge auf hohe Schwellenwerte, damit möglichst wenige ihrer Modelle unter die Regelung fallen; Regierungsstellen auf niedrige, damit möglichst viele Modelle geprüft werden. Wie dieser Streit ausgeht, ist am 8. Juli 2026 noch nicht entschieden.

Für Sie ist an dieser Stelle vor allem eine Sache wichtig: Der Rahmen betrifft direkt nur eine Handvoll Anbieter an der absoluten Spitze der Modellentwicklung – die Unternehmen, deren Modelle groß genug sind, um als "Frontier" zu gelten. Die meisten KI-Werkzeuge, die in Ihrem Unternehmen tatsächlich im Einsatz sind, bauen jedoch genau auf diesen Frontier-Modellen auf, etwa über API-Anbindungen an GPT-, Claude- oder Gemini-Modelle. Die Sorgfalt, mit der diese Basismodelle geprüft werden, wirkt also mittelbar auf jedes Produkt, jeden Agenten und jede Automatisierung, die darauf aufsetzt – auch wenn der eigentliche Softwareanbieter, mit dem Sie einen Vertrag schließen, selbst gar keine eigenen Frontier-Modelle trainiert.

Warum das für Ihre Anbieterauswahl schon heute relevant wird

Sie kaufen als Mittelständler in aller Regel keine eigenen Frontier-Modelle ein – Sie nutzen sie über Produkte, APIs und Agenten, die auf ihnen aufbauen. Trotzdem betrifft Sie diese Entwicklung direkt, aus drei Gründen.

Erstens verschiebt sich der Maßstab dafür, was als "sorgfältig getesteter" Anbieter gilt. Bislang mussten Sie sich bei der Frage, ob ein KI-Modell ausreichend geprüft ist, fast ausschließlich auf die Selbstauskunft der Anbieter verlassen. Mit CAISI entsteht erstmals eine – wenn auch teils klassifizierte – externe Prüfinstanz, auf die Sie in Gesprächen mit Ihren Anbietern verweisen können: "Wurde Ihr Modell durch CAISI oder ein vergleichbares Verfahren getestet?" ist ab sofort eine legitime, konkrete Frage in Ihrer Due Diligence.

Zweitens zeigt der aktuelle Fall exemplarisch, wie schnell sich der Status eines Anbieters ändern kann. OpenAIs GPT-5.6-Rollout wurde Presseberichten zufolge auf Bitte der US-Regierung wegen Sicherheitsbedenken verzögert und eingeschränkt – aktuell haben Berichten zufolge nur rund 20 staatlich geprüfte Partnerorganisationen Zugang zu den GPT-5.6-Varianten. Auch Anthropic hat 2026 einen 200-Millionen-US-Dollar-Pentagon-Vertrag verloren, nachdem das Unternehmen eine Vertragsklausel zur autonomen Waffennutzung ohne menschliche Kontrolle abgelehnt hatte, und wurde zwischenzeitlich sogar als "Supply Chain Risk to National Security" eingestuft. Die jetzige Teilnahme an den neuen freiwilligen Teststandards gilt als Zeichen einer Wiederannäherung zwischen Anthropic und der US-Regierung. Für Sie als Einkäufer heißt das: Der regulatorische Status eines US-Anbieters ist keine statische Größe, sondern kann sich innerhalb weniger Monate verschieben.

Drittens ersetzt der US-Rahmen ausdrücklich nicht Ihre Pflichten aus dem EU AI Act. Beide Ebenen laufen parallel und mit unterschiedlicher Zielrichtung – dazu gleich mehr.

Hinzu kommt ein vierter, eher strategischer Grund: Wenn Sie heute anfangen, Anbieter systematisch nach Sicherheits- und Testkriterien zu befragen, bauen Sie sich intern ein Dokumentationsraster auf, das Sie ohnehin brauchen werden – für interne Freigabeprozesse, für Kundenanfragen zu Ihrer eigenen KI-Nutzung und für die Kommunikation mit Ihrem Betriebsrat oder Ihrer Rechtsabteilung. Wer diese Fragen erst dann stellt, wenn eine Aufsichtsbehörde oder ein Kunde danach fragt, gerät leicht in Zeitdruck. Wer sie jetzt in die reguläre Anbieterauswahl integriert, hat im Ernstfall längst eine Antwort parat.

Die Checkliste: Sechs Fragen an Ihren KI-Anbieter

Aus den bestehenden freiwilligen Sicherheits-Frameworks der großen Anbieter – Anthropics Responsible Scaling Policy mit ihren AI Safety Levels ASL-1 bis ASL-4+, OpenAIs Preparedness Framework mit den Risikostufen low bis critical und Google DeepMinds Frontier Safety Framework – sowie aus etablierten Referenzstandards wie dem NIST AI Risk Management Framework und der zertifizierbaren ISO/IEC 42001 lässt sich eine praktikable Checkliste ableiten. Stellen Sie Ihrem Anbieter diese sechs Fragen, bevor Sie einen Vertrag unterschreiben:

• Gibt es ein öffentliches Safety- oder Risk-Framework? Anbieter, die ihre Risikostufen und Eskalationsschwellen offenlegen, zeigen, dass sie Sicherheit nicht erst auf Nachfrage denken.
• Wurde unabhängiges Red-Teaming durchgeführt? Externe Angriffs- und Missbrauchstests sind ein starkes Indiz für ernsthafte Prüfung, nicht nur interne Selbstbestätigung.
• Liegt eine Modell- oder System-Card mit Benchmark-Ergebnissen vor? Transparente Leistungs- und Risikodaten lassen sich mit Wettbewerbern vergleichen.
• Ist der Anbieter Unterzeichner des EU GPAI Code of Practice? Rund 24 bis 26 Anbieter haben bislang unterschrieben, darunter Anthropic, OpenAI, Google, Microsoft, Amazon, IBM, Mistral AI, Cohere und Aleph Alpha. Meta hat nicht unterzeichnet, xAI nur die Sicherheits- und Security-Kapitel.
• Orientiert sich der Anbieter an NIST AI RMF oder ISO/IEC 42001? Während NIST AI RMF freiwillig bleibt und keine offizielle Zertifizierung kennt, ist ISO/IEC 42001 ein zertifizierbares Managementsystem – fragen Sie gezielt nach einem Zertifikat, nicht nur nach einer "Orientierung".
• Bestehen Transparenzberichte und klare Meldewege bei Sicherheitsvorfällen? Kaliforniens SB 53 gibt hier mit 15-Tage- beziehungsweise 24-Stunden-Fristen bei akuter Gefahr einen brauchbaren Referenzrahmen vor, an dem sich auch Anbieter außerhalb Kaliforniens messen lassen sollten.

Wichtig für die praktische Anwendung dieser Checkliste: Sie werden auf viele dieser Fragen bei kleineren oder spezialisierten Anbietern keine vollständige Antwort erhalten – das ist zunächst kein Ausschlusskriterium, sondern ein Gesprächseinstieg. Entscheidend ist, ob ein Anbieter überhaupt eine Antwort geben kann und will, oder ob das Thema sichtbar ausweicht.

Ein praktischer Tipp aus unserer Beratungsarbeit: Bauen Sie die sechs Fragen als festen Block in Ihre Angebotsanfragen oder Ihren Anbietervergleich ein, statt sie nur mündlich im Erstgespräch zu stellen. Schriftliche Antworten lassen sich später leichter dokumentieren, vergleichen und – falls nötig – auch gegenüber Aufsichtsbehörden oder Kunden vorlegen. Gerade bei Punkt vier und fünf, also der GPAI-Unterzeichnung und der Orientierung an NIST AI RMF oder ISO/IEC 42001, lohnt sich zudem ein Blick auf das Datum: Frameworks und Zertifikate veralten, und ein Anbieter, der sich vor zwei Jahren einmal zu einem Standard bekannt hat, muss diesen heute nicht mehr aktiv pflegen.

Zwei Parallelwelten: US-Rahmen und EU AI Act nicht verwechseln

Ein häufiger Denkfehler in der Praxis: Wer hört, ein US-Anbieter "wird jetzt von der Regierung getestet", geht schnell davon aus, dass dieser Anbieter automatisch EU-konform ist. Das ist ein Trugschluss, den Sie in Ihrer eigenen Compliance-Prüfung vermeiden sollten.

Der neue US-Rahmen ist – Stand heute – freiwillig, national-sicherheitsorientiert und zielt vor allem auf Cyber-, Bio- und Chemiewaffenrisiken bei Frontier-Modellen ab. Parallel dazu gilt in Kalifornien bereits seit dem 1. Januar 2026 der Transparency in Frontier Artificial Intelligence Act, kurz SB 53: Große Entwickler frontier-fähiger Modelle mit einem Trainingscompute von mehr als 10 hoch 26 FLOPs müssen ein jährliches Sicherheitsrahmenwerk veröffentlichen, vor Modell-Releases Transparenzberichte liefern und kritische Sicherheitsvorfälle binnen 15 Tagen – beziehungsweise 24 Stunden bei akuter Gefahr – an die California Office of Emergency Services melden. Verstöße können mit bis zu einer Million US-Dollar pro Verstoß geahndet werden.

Auf EU-Ebene wiederum existiert der General-Purpose AI Code of Practice zum AI Act, dem sich die genannten 24 bis 26 Anbieter freiwillig unterworfen haben. Die eigentliche Durchsetzung durch die EU-Kommission – mit Auskunftsersuchen, Modellzugang und im Extremfall Rückrufen – beginnt jedoch erst ab dem 2. August 2026. Das bedeutet für Sie: Selbst wenn ein Anbieter alle sechs Punkte der obigen Checkliste erfüllt, sind Sie als Unternehmen in Deutschland weiterhin selbst für Ihre eigene EU-AI-Act-Konformität verantwortlich – etwa bei Fragen der Risikoklassifizierung Ihrer eigenen KI-Anwendungen. Die US-Teststandards können ein zusätzliches Vertrauenssignal sein, sie ersetzen aber keine eigene rechtliche Prüfung.

Praktisch heißt das: Prüfen Sie beide Ebenen getrennt. Die US-Testteilnahme eines Anbieters beantwortet die Frage "Wie sorgfältig wurde dieses Modell auf Sicherheitsrisiken geprüft?". Ihre eigene EU-AI-Act-Prüfung beantwortet die Frage "Was muss ich als Unternehmen in Deutschland tun, wenn ich dieses Modell einsetze?". Beide Fragen gehören in Ihre Anbieter-Dokumentation, aber sie sind nicht austauschbar.

Ein weiterer Unterschied liegt im Adressaten der Regelungen. SB 53 und der EU AI Act richten sich unmittelbar an die Entwickler der Modelle selbst und verpflichten diese zu Offenlegung und Meldewegen. Der neue US-Bundesrahmen dagegen adressiert zunächst das Verhältnis zwischen Anbieter und Regierung – er schafft keine direkten Pflichten gegenüber Ihnen als Endkunde. Das heißt: Selbst wenn ein Modell erfolgreich durch CAISI geprüft wurde, erhalten Sie als Unternehmen daraus keinen automatischen Anspruch auf Einsicht in die Testergebnisse. Umso wichtiger bleibt es, sich bei Ihren Anbietern nicht auf den Verweis "wir werden ja von der Regierung geprüft" zu verlassen, sondern konkrete, vertraglich zusicherbare Aussagen einzufordern.

Was noch unklar ist – und warum das kein Grund ist zu warten

Ehrlich betrachtet: Ein gutes Stück Unsicherheit bleibt. Die eigentliche Ankündigung der neuen US-Teststandards war zum Zeitpunkt dieser Recherche am 8. Juli 2026 laut verfügbaren Quellen noch nicht final erfolgt. Berichte sprachen von "fortgeschrittenen Verhandlungen" und einer für die Woche ab dem 7. Juli erwarteten Bekanntgabe. Konkrete Benchmark-Namen und exakte Schwellenwerte für "covered frontier models" wurden in unserer Recherche nirgends als bereits veröffentlicht gefunden – der Benchmarking-Prozess ist der Executive Order zufolge sogar teilweise als klassifiziert vorgesehen, was die für Endkunden gewünschte Transparenz faktisch einschränken dürfte.

Sollten Sie deshalb abwarten, bevor Sie Ihre Anbieterauswahl überarbeiten? Nein. Die sechs Checklisten-Fragen aus diesem Artikel bauen bewusst nicht auf den noch unbekannten US-Schwellenwerten auf, sondern auf bereits existierenden, prüfbaren Kriterien: öffentliche Frameworks, Red-Teaming, Modell-Cards, GPAI-Unterzeichnung, Managementsystem-Standards und Incident-Meldewege. Diese Kriterien gelten unabhängig davon, wie die US-Verhandlungen in den kommenden Wochen ausgehen. Was sich ändern kann, sind die Details – etwa ob CAISI-Testberichte für Kunden künftig in irgendeiner Form einsehbar werden, oder wo genau die Compute-Schwelle für "covered frontier models" landet. Betrachten Sie die Checkliste deshalb als lebendiges Dokument: Stand heute belastbar, aber in den kommenden Monaten voraussichtlich um konkretere US-Kriterien zu ergänzen.

Fazit: Vertrauen wird messbar – nutzen Sie das

Die "Testpflicht" aus der Überschrift ist, genau genommen, ein freiwilliger Rahmen mit starken wirtschaftlichen Anreizen. Doch unabhängig davon, wie die Details in den kommenden Wochen ausfallen: Die Richtung ist klar. Vertrauenswürdigkeit von KI-Anbietern wird zunehmend an überprüfbaren Kriterien festgemacht statt an Marketingversprechen. Für Sie als Mittelständler bedeutet das eine Chance: Statt sich auf das Bauchgefühl oder die Größe eines Logos zu verlassen, können Sie ab sofort gezielt nachfragen – nach Frameworks, nach Red-Teaming, nach Zertifikaten, nach Meldewegen. Anbieter, die diese Fragen offen beantworten, verdienen Ihr Vertrauen eher als solche, die ausweichen. Und genau diese Unterscheidung wird angesichts der wachsenden regulatorischen Aufmerksamkeit in den USA, in Kalifornien und in der EU nur wichtiger werden.