Jev: Das KI-Modell, das keinen Text schreibt – sondern nur entscheidet

Video-Quelle: Erklärung und Live-Demos von Jev

Ein neues KI-Modell macht gerade die Runde, weil es grundsätzlich anders funktioniert als alles, was wir bisher kennen: Es schreibt keinen Text. Jev, entwickelt von der Firma Typesafe AI, liest Text und ordnet ihn ein – bewertet, sortiert, wählt aus, und das in Millisekunden, tausendfach hintereinander. Laut Typesafe ist es dabei bis zu 200-mal schneller und bis zu 400-mal günstiger als ein klassisches Sprachmodell. Das ist eine Herstellerangabe, keine unabhängig verifizierte Messung – aber die grundsätzliche Architektur dahinter ist tatsächlich neu und für den Mittelstand relevant, weil sie genau die Art von Aufgabe adressiert, die in fast jeder Automation vorkommt: die kleine, schnelle Entscheidung zwischen ein paar Optionen.

Typesafe nennt Jev auch ein "System-1-Modell", in Anlehnung an Daniel Kahnemans Buch "Schnelles Denken, langsames Denken". System 2 ist dort das langsame, bewusste Nachdenken – genau das, worauf die Reasoning-Modelle aller großen Labs seit rund zwei Jahren trainiert werden. System 1 ist das schnelle Bauchgefühl, die Intuition ohne Umweg über Sprache. Jev ist bewusst als reines System-1-Modell gebaut.

Wer hinter Jev steckt

Gegründet hat Typesafe AI Diego Almeida, der zuvor bei OpenAI gearbeitet hat und einer der Hauptautoren des InstructGPT-Papers war – jener Arbeit, aus der ChatGPT hervorging. Der Mann, der Sprachmodellen das "Reden" beigebracht hat, baut jetzt eines, das gar nicht reden kann. Sein Argument: ChatGPT und vergleichbare Modelle wurden für Menschen gebaut und liefern deshalb Textantworten. In Automationen setzt man KI aber sehr häufig gar nicht ein, um Texte zu schreiben, sondern um Texte zu klassifizieren oder zu bewerten – etwa: Welche Art von Anfrage ist das? Ist die Mail dringend? Ist das Spam?

Auf solche Fragen will eine Automation keinen Absatz als Antwort, sondern eine Entscheidung, an der sich der nächste Schritt festmacht – zum Beispiel: Spam-Wahrscheinlichkeit über 80 Prozent, ab in den Spamordner. Ein Sprachmodell kann so eine Entscheidung nur als Text ausgeben. Deshalb steht in vielen Prompts der Zusatz "Antworte nur mit einem Wort" – verbunden mit der Hoffnung, dass sich das Modell daran hält. Jev ist genau für diesen Fall gebaut: Es schreibt keinen Text, sondern liefert direkt die Entscheidung selbst in einem strukturierten Format zurück – inklusive einer Wahrscheinlichkeit, wie sicher es sich dabei ist.

Wie Jev technisch funktioniert – und warum es so viel schneller ist

Um den Unterschied zu verstehen, hilft ein Blick darauf, was bei einem normalen Sprachmodell passiert. Angenommen, eine App fragt, ob eine Rechnung betrügerisch ist: Das Sprachmodell schreibt die Antwort Token für Token, ein Wort nach dem anderen. Selbst wenn man dem Modell sagt, es solle nur mit "Ja" oder "Nein" antworten, entsteht dieses eine Wort auf demselben Weg wie ein ganzer Aufsatz. Aktuelle Reasoning-Modelle denken vorher zusätzlich schriftlich nach, weshalb die Antwort mehrere Sekunden dauert und nicht nur pro Input-Token, sondern auch pro Output-Token kostet. Der eigene Code muss hinterher zusätzlich prüfen, ob wirklich eines der erlaubten Wörter zurückkam.

Jev bekommt dieselbe Frage anders gestellt – eher wie ein Funktionsaufruf. Es gehen zwei Dinge rein: der State, also der Text, um den es geht (eine Rechnung, ein Ticket, ein Chatverlauf), und eine Liste von Fragen, bei denen die Form der Antwort vorher feststeht. Jev verteilt dann nur noch Wahrscheinlichkeiten auf die vorgegebenen Optionen. Es gibt keinen Text zurück, sondern füllt direkt die Werte, mit denen der eigene Code weiterrechnet. Weil nichts geschrieben wird, dauert das laut Anbieter nur rund 0,1 Sekunden, und die Ausgabe kostet nichts – es fallen keine Output-Token an, bezahlt wird nur der Input, laut Typesafe mit rund 4,2 Cent pro Million Token.

Jev beantwortet dabei im Grunde drei Fragetypen:

• Choice – eine Auswahl aus einer Liste mit bis zu 225 Optionen.
• Score – eine Skala mit Stufen, die in Worten beschrieben werden, etwa "Wie verärgert klingt der Kunde? Von ruhig bis wütend".
• Boolean – eine Ja/Nein-Frage, etwa "Ist diese Anfrage dringend?", zurückgegeben als Wahrscheinlichkeit für "Ja".

Zu jeder Antwort liefert Jev zusätzlich eine Confidence, die angibt, wie eindeutig die Verteilung war – 88 zu 7 zu 5 Prozent ist eine klare Sache, 40 zu 35 zu 25 eher Raten. Bei einem Sprachmodell wie ChatGPT ist eine solche Selbsteinschätzung meist nur ausgedacht und sagt wenig über die tatsächliche Trefferquote aus. Typesafe hat Jev laut eigenen Angaben gezielt darauf trainiert, dass diese Zahl auch stimmt – nach einem Verfahren namens "Reinforcement Learning for Calibrated Decisions": 90 Prozent Confidence soll bedeuten, dass Jev in neun von zehn Fällen richtigliegt. Typesafe empfiehlt, alles über 0,9 automatisch laufen zu lassen, alles unter 0,5 an einen Menschen zu übergeben und dazwischen gezielt nachzufragen. Wie das Modell intern aufgebaut ist, verrät Typesafe nicht – es gibt weder ein Paper noch ein Architekturdiagramm.

Was daran wirklich neu ist

Klassifikationsmodelle gibt es nicht erst seit Jev – Spamfilter, Stimmungsanalyse oder Dokumentensortierung liefen lange vor ChatGPT über kleine, schnelle Modelle. Der Haken: Jedes dieser Modelle musste einzeln auf genau eine Aufgabe trainiert werden, mit tausenden beschrifteten Beispielen. Wollte man eine Kategorie ändern, musste man neu trainieren – ein Spamfilter erkannte eben nur Spam, sonst nichts.

Sprachmodelle haben das umgedreht: Sie wurden auf so viel Text trainiert, dass sie über fast alles Bescheid wissen und jede Frage beantworten können, ohne extra dafür feinjustiert zu werden. Dieses breite Weltwissen steckt nun erstmals in einem Klassifikator: Jev ist ein einziges Modell, das jede Einordnungsfrage beantwortet, die man ihm in Worten stellt – ist diese Rechnung betrügerisch, klingt der Kunde wütend, gehört dieses Paper zur Krebsforschung – und das mit dem Tempo und dem Preis eines kleinen, spezialisierten Klassifikators. Bisher gab es entweder schnell und billig, aber nur für eine fest antrainierte Aufgabe, oder universell, aber langsam und teuer, weil ein Sprachmodell erst nachdenken und dann Text schreiben muss. Jev verbindet beide Vorteile.

Wann sich Jev für Ihre Automation lohnt

Aus dieser Architektur lassen sich zwei klare Einsatzbedingungen ableiten: Jev lohnt sich, wenn große Datenmengen ausgewertet werden müssen oder wenn Entscheidungen in Echtzeit fallen müssen. In beiden Fällen ist ein Sprachmodell zu langsam, zu teuer oder beides.

Ein Echtzeit-Beispiel: In einem Livechat mit tausenden Zuschauern treffen Nachrichten im Sekundentakt ein, und jede muss vor der Veröffentlichung geprüft werden – Spam, Beleidigung, wie sicher ist die Einschätzung. Ein Sprachmodell bräuchte pro Nachricht mehrere Sekunden, wodurch bei diesem Volumen ein Stau entsteht und die Kosten schnell steigen. Jev liefert die Entscheidung laut Anbieter in rund 100 Millisekunden für einen Bruchteil eines Cents.

Beim zweiten Fall, der Verarbeitung großer Datenmengen, lohnt sich ein ehrlicher Blick auf die Größenordnung: Bei einem Postfach mit 500 bis 2.000 Mails ist der Unterschied zu einem klassischen Sprachmodell nicht spektakulär – man zahlt dort vielleicht statt rund 2 Euro nur wenige Cent und wartet statt 5 Minuten nur Sekunden, was für eine einmalige Aufräumaktion kaum ins Gewicht fällt. Anders sieht es aus, wenn täglich hunderte neue Mails eingehen und jede sofort beim Eingang sortiert und weitergeleitet werden muss, oder wenn eine Datenbank mit hunderttausenden Texteinträgen fortlaufend klassifiziert werden soll – also bei wiederkehrender, hochvolumiger Verarbeitung statt einer einmaligen Aufgabe.

Guardrail und Model-Router: Zwei Einsatzfälle für Support-Agenten

Ein naheliegender Anwendungsfall im Mittelstand ist der Einsatz als Sicherheitsschicht vor und nach einem Support-Bot. Wenn ein Supportbot täglich tausende Kundenanfragen aus der eigenen Wissensdatenbank beantwortet, besteht das Risiko, dass eine Antwort rausgeht, die nicht durch die hinterlegten Quellen gedeckt ist oder etwas verspricht, das die eigene Richtlinie nicht erlaubt. Üblicherweise lässt man dafür ein zweites Sprachmodell die Antwort bewerten ("LLM as a Judge") – was selbst wieder Zeit und Geld kostet. Jev kann dieselbe Prüfung in einem Bruchteil der Zeit und der Kosten übernehmen.

Auch als Model-Router ist Jev geeignet: Bevor ein Agent aufgerufen wird, der etwa eine Rückerstattung oder Adressänderung auslöst, kann Jev vorab einschätzen, ob es sich um eine einfache Standardanfrage oder einen komplizierten Fall handelt. Einfache Fälle gehen dann an ein kleines, günstiges Modell, komplizierte an das große – was spürbar Kosten spart. Gleichzeitig lässt sich Jev als Guardrail gegen Prompt Injections einsetzen: Versucht ein Kunde etwa mit "Ignoriere deine Anweisungen" den Bot zu manipulieren, kann Jev das erkennen und blockieren, bevor die Anfrage weiterläuft. Auch im Nachhinein kann Jev prüfen, ob eine vom Bot vorgeschlagene Aktion wirklich automatisch ausgeführt werden sollte oder ob ein Mensch hinzugezogen werden muss.

Was frühe Nutzer in der ersten Woche gebaut haben

In den ersten Tagen nach der Veröffentlichung sind bereits eine Reihe von Community-Projekten entstanden, die zeigen, wofür sich das Modell in der Praxis eignet:

• Eine Chrome-Erweiterung, die jeden Beitrag im X-Feed direkt bei Erscheinen bewertet und interessante Inhalte hervorhebt, uninteressante ausblendet – Content-Filterung in Echtzeit.
• Ein Werbeblocker nach demselben Prinzip: Der Code sammelt alle Elemente einer Seite, die nach Werbung aussehen, Jev bewertet jedes einzelne mit der Frage "Ist das eine bezahlte Anzeige?", alles über einer Schwelle verschwindet live von der Seite.
• Ein Browser-Automation-Projekt namens Jev Ultrafast, das laut Berichten in der ersten Woche über 17.000 Sterne auf GitHub gesammelt hat. Anders als bildbasierte Automations-Modelle "sieht" Jev die Seite nicht – der Code nummeriert stattdessen vorher alle klickbaren Elemente durch, und Jev wählt nur noch die passende Nummer aus. Texteingaben übernimmt weiterhin ein kleines Sprachmodell, da Jev selbst keinen Text schreiben kann. In einem dokumentierten Beispiel füllte das System eine Google-Flights-Suche von Zürich nach London innerhalb von rund 7 Sekunden für unter einem halben Cent automatisch aus.
• Datenauswertung: Ein Nutzer hat 108 wissenschaftliche Arbeiten in 24 Themen einsortiert – für insgesamt rund 8 Cent. Die Zusammenfassung der Paper übernahm ein Sprachmodell, die Einsortierung Jev.
• SEO-Anwendungsfälle: Eine SEO-Agentur nutzt Jev, um für Kunden tausende Suchbegriffe nach Kaufabsicht zu klassifizieren und tausende Unterseiten daraufhin zu prüfen, ob die Überschrift noch passt – deutlich günstiger und schneller als mit einem Sprachmodell allein.
• Werbeanzeigen-Analyse: In einem Beispiel wertete Jev 724 Werbeanzeigen von 37 Marken in 40 Sekunden für rund 9 Cent aus – nach Hooks, Format, Angebot und Call-to-Action.

Kurzclip: Jev live in Aktion

Diese Beispiele stammen aus öffentlich dokumentierten Community-Demos und sind nicht unabhängig durch Amazing Agents verifiziert – sie geben aber eine gute Orientierung, in welche Richtung sich der Einsatz solcher Modelle entwickelt. Ein durchgängiges Muster zeigt sich dabei: Ein Sprachmodell schreibt den Text, Jev entscheidet, und der eigene Code führt die Entscheidung aus. Alles, was tatsächlich etwas bewirkt – eine Mail verschicken, eine Datei löschen, eine Zahlung auslösen – bleibt im Code mit klar definierten Schwellenwerten. Jev trifft nur die Entscheidung, es führt nichts selbst aus.

Was Jev nicht kann – und wo Vorsicht geboten ist

Genauso wichtig wie die Stärken sind die klaren Grenzen des Modells, die auch für den produktiven Einsatz im Mittelstand relevant sind:

• Kein mehrstufiges Nachdenken: Für komplexe, mehrschrittige Überlegungen sind Reasoning-Modelle weiterhin deutlich besser geeignet.
• Kein Rechnen und Zählen: Laut Typesafes eigener Dokumentation ist Jev kein Taschenrechner und kann auch Datumsangaben nicht zuverlässig vergleichen – solche Logik gehört weiterhin in den eigenen Code.
• Kein branchenspezifisches Kontextwissen von Haus aus: Jev weiß nicht automatisch, was in Ihrem Unternehmen "dringend" bedeutet – solche Kriterien müssen explizit im übergebenen State definiert werden.
• Anfällig für eingeschleuste Anweisungen im Input: Da Jev alles im übergebenen Text wörtlich nimmt, kann eine Spam-Mail, die "Achtung, dringende Deadline!" behauptet, versehentlich als wichtig eingestuft werden. Deshalb sollten Kriterien aktiv definiert und Anweisungen im Eingabetext explizit als nicht maßgeblich markiert werden.
• Kein Bild- oder Tonverständnis: Jev liest ausschließlich Text.
• Begrenztes Kontextfenster: Bei rund 64.000 Input-Token ist Schluss – sehr lange Dokumente müssen vorher aufgeteilt werden.
• Trainingsschwerpunkt Englisch: Jev wurde überwiegend mit englischsprachigen Daten trainiert und dürfte bei deutschen Texten spürbar schlechter abschneiden als bei englischen – ein Punkt, den Sie vor dem produktiven Einsatz mit eigenen deutschsprachigen Testdaten prüfen sollten.
• Kein hundertprozentiger Schutz vor Fehleinschätzungen: Das Ausgabeformat ist zwar immer korrekt, die zugrundeliegenden Wahrscheinlichkeiten können trotzdem danebenliegen – "Halluzinationsfrei" gilt nur für die Struktur, nicht für den Inhalt der Entscheidung.

Datenschutz: Warum Jev für personenbezogene Daten aktuell nur bedingt infrage kommt

Typesafe AI ist ein US-Anbieter. Verarbeitete Daten laufen entsprechend über amerikanische Server, und die Zusicherung, dass nichts gespeichert wird, gilt laut Dokumentation nur für Enterprise-Kunden. Für den DACH-Mittelstand bedeutet das: Ohne einen entsprechenden Auftragsverarbeitungsvertrag und eine geprüfte Rechtsgrundlage sollten Sie über Jev keine personenbezogenen oder sonstigen sensiblen Daten verarbeiten – etwa keine unredigierten Kundendaten aus E-Mail-Postfächern oder Bewerbungsunterlagen.

Wer aus diesem Grund auf einen Einsatz verzichten möchte, hat inzwischen eine Alternative: Wenige Tage nach Jev erschien mit Laya ein offenes Modell, das sich lokal auf einem eigenen Server oder Rechner betreiben lässt, etwa über Huggingface bezogen. Damit verlässt keine Anfrage das eigene System. Der Haken: Anders als Jev ist Laya von Haus aus nicht universell einsetzbar, sondern muss – wie klassische Klassifikatoren vor Jev – erst mit einigen tausend beschrifteten Beispielen auf die eigene Aufgabe trainiert werden. Danach soll es laut Berichten sogar genauer sein als Jev und in rund 30 Millisekunden antworten, allerdings ausschließlich für die eine trainierte Aufgabe. Zusätzlich gelten zwei harte Grenzen: deutlich mehr als 20 Kategorien verträgt Laya schlecht, und das Kontextfenster liegt bei nur 512 bis 1.024 Token – also ungefähr eine kurze E-Mail. Für eng abgegrenzte, wiederkehrende Klassifikationsaufgaben mit sensiblen Daten kann sich der Trainingsaufwand trotzdem lohnen.

Kriterium	Jev (Typesafe AI)	Laya (offenes Modell)
Serverstandort	USA	selbst gehostet
Einsatzbereich	universell, ohne Training	nur nach eigenem Training
Kategorien	bis zu 225 Optionen	bis ca. 20
Kontextfenster	ca. 64.000 Token	512–1.024 Token
Personenbezogene Daten	nur mit AVV / Enterprise-Vertrag	unproblematisch (lokal)

So probieren Sie Jev selbst aus

Der pragmatischste Einstieg führt über OpenRouter, wo neben zahlreichen anderen KI-Modellen auch Jev verfügbar ist – ohne dass Sie einen separaten Vertrag mit Typesafe AI abschließen müssen. Für einen ersten Prototyp reicht es, einem Coding-Assistenten wie Claude Code den Auftrag zu geben, Jev über den eigenen OpenRouter-API-Key für eine konkrete Klassifikationsaufgabe einzubinden – etwa das automatische Vorsortieren eingehender Anfragen nach Dringlichkeit. So lässt sich in kurzer Zeit prüfen, ob die Genauigkeit für den eigenen Anwendungsfall ausreicht, bevor größere Datenmengen oder produktive Prozesse daran hängen.

Bevor Sie produktiv gehen, sollten Sie drei Punkte klären: erstens, welche Kategorien und Kriterien Sie im State explizit definieren müssen, damit Jev nicht branchenfremde Annahmen trifft; zweitens, ob im verarbeiteten Text personenbezogene Daten stecken, die einen anderen Anbieter oder ein lokales Modell wie Laya erfordern; drittens, ab welcher Confidence-Schwelle eine Entscheidung automatisch laufen darf und ab wann ein Mensch eingebunden werden muss. Diese drei Fragen entscheiden in der Praxis deutlich mehr über den Projekterfolg als die reine Geschwindigkeit des Modells.

Fazit: Eine zweite Art von Modell für eine andere Art von Aufgabe

Jev wird Sprachmodelle nicht ersetzen – das behauptet auch Typesafe selbst nicht. Es ist eine zweite Art von Modell für eine andere Art von Aufgabe: die vielen kleinen Entscheidungen, die in praktisch jedem Automatisierungs-Workflow stecken und für die ein Sprachmodell schlicht zu langsam oder zu teuer ist, um es überall einzubauen. Nach der Veröffentlichung von Jev sind bereits mehrere ähnliche Projekte gestartet worden, was zeigt: Die Idee eines reinen "System-1-Klassifikators" neben den etablierten "System-2-Sprachmodellen" dürfte sich als eigene Modellkategorie etablieren. Für Mittelstandsbetriebe mit hohem Volumen an wiederkehrenden Klassifikationsentscheidungen – Mail-Sortierung, Content-Moderation, Lead-Qualifizierung, Guardrails für Support-Bots – lohnt sich ein Blick auf diese Architektur schon jetzt, unabhängig davon, ob am Ende Jev, ein Wettbewerber oder ein selbst trainiertes lokales Modell zum Einsatz kommt.