KI-Entscheidungsmodelle: Jev, Clef, Einsatzfälle und Kosten

Eine E-Mail einsortieren, beurteilen, ob die Aktion eines Agenten riskant ist, die Abteilung wählen, die eine Anfrage bearbeitet: Keine dieser Entscheidungen braucht einen ausformulierten Satz. Das ist die Wette der KI-Entscheidungsmodelle, einer Kategorie, die Jev vom US-Start-up TypeSafe AI am 15. September 2026 eröffnet hat. Laut Vercel wurde Jev innerhalb eines Tages zum am schnellsten angenommenen Modell seines KI-Gateways, und OpenAI, Cloudflare und Amazon stellten etwa zwei Wochen später ihre eigene Version vor.

Hier lesen Sie, was ein Entscheidungsmodell ist, was die Angebote vom Oktober 2026 taugen, wofür es je nach Branche dient und was wir davon halten. Danach die Einführung, so wie wir sie durchführen: das Entwerfen der Fragen, die Wahl der Infrastruktur, die Kosten und die Begleitung, sobald das Modell im Einsatz ist.

Kurz gesagt

• Ein Entscheidungsmodell schreibt nichts: Es beantwortet geschlossene Fragen mit einem Wert und einer Wahrscheinlichkeit, die Ihr Code unverändert verwendet.
• „Deterministisch“ gilt für die Form der Antwort, nicht für das Urteil: Gut kalibriert, irrt sich ein Modell, das 90 % angibt, etwa einmal von zehn.
• Jev liest nur Text; Clef von Cloudflare liest auch Bilder (und mit Clef-omni Ton), übernimmt die API von Jev und lässt sich bei Ihnen installieren.
• Pro Aufruf sind die Kosten minimal, und sie sinken bereits: Perplexity berechnet halb so viel wie Jev. Die Rechnung entscheidet sich an der Kombination: zuerst eine Regel, ein Entscheidungsmodell für das Unklare, ein großes Modell zum Schreiben, ein Mensch unterhalb der Schwelle.
• Die Einführung beginnt mit einem Audit der wiederkehrenden Entscheidungen, dann folgen ein Test mit Ihren Daten und eine Beobachtungsphase, bevor das Modell handeln darf.

Was ist ein KI-Entscheidungsmodell?

Cloudflare definiert es als ein Modell, das klassifiziert, um einem Agenten auf Grundlage von Wahrscheinlichkeiten bei der Entscheidung zu helfen, wie er handeln soll. Der Austausch verläuft in vier Schritten:

Das Beispiel aus der Ankündigung von Clef besteht aus drei Fragen zu derselben Nachricht: „Checkout has been failing for every customer for the last hour.“ Ist die Anfrage dringend? Welches Team soll sie bearbeiten, Abrechnung, Technik oder Vertrieb? Wie schwer wiegt sie für den Kunden, von „No impact“ bis „Critical“? Das Modell liefert eine Wahrscheinlichkeit für jede Option jeder Frage, und der Code ordnet das Ticket ein, löst einen Alarm aus oder übergibt den Fall an einen Menschen.

Zwei Unterschiede zählen. Bei einem klassischen Klassifikator musste man das Modell neu trainieren, um eine Kategorie hinzuzufügen; ein Entscheidungsmodell erhält seine Kategorien in der Anfrage, betont Cloudflare. Und anders als ein großes Sprachmodell schreibt es nichts: Clef liest die Eingabe in einem einzigen Durchgang und bewertet dann parallel alle zulässigen Antworten, ohne Wort für Wort Text zu erzeugen, daher seine Geschwindigkeit. TypeSafe ordnet Jev unter die „System One models“ ein, in Anlehnung an das System 1 des Psychologen Daniel Kahneman: das schnelle, intuitive Denken, während die großen Modelle, die „nachdenken“, das langsame und bedächtige System 2 spielen.

Sind Entscheidungsmodelle deterministisch?

Für die Form der Antwort ja. Cloudflare stellt diese Modelle den großen Sprachmodellen gegenüber, die „largely non-deterministic“ seien, und seine erste Demonstration zeigte „deterministic probabilities“. Ein Entscheidungsmodell verlässt nie die vorgesehenen Optionen, und TypeSafe sagt in seinem Entwurfsleitfaden, es habe seines so konzipiert, dass es von einer Bewertung zur nächsten stabile Antworten liefert. Bei identischem Zustand und identischen Fragen soll die Antwort gleich bleiben, was erlaubt, sie zu testen und im Cache zu halten.

Für das Urteil nein. „Can’t hallucinate“, das Versprechen von TypeSafe, bedeutet, dass Jev nie außerhalb der Liste antwortet; nichts hindert es daran, darin die falsche Option zu wählen, erinnert The Register. Die Antwort bleibt eine Wahrscheinlichkeit, und es kommt darauf an, dass sie stimmt: Ein gut kalibriertes Modell, das 90 % angibt, muss sich etwa einmal von zehn irren. Cloudflare hat Clef mit einer Verlustfunktion trainiert, dem sogenannten Brier-Score, um diese Kalibrierung zu verfeinern. Auf dem Datenblatt von Strands Decider warnt Amazon, dass seine Kalibrierung an kurzen Klassifikationsaufgaben eingestellt wurde: Messen Sie an Ihrem eigenen Datenverkehr, bevor Sie sich auf eine Schwelle verlassen.

Deterministisch in der Form, probabilistisch in der Sache: Ein Entscheidungsmodell behandelt man wie einen sehr schnellen Sortierer, dessen Fehlerquote man misst, bevor man ihm das Sortieren anvertraut.

Jev, Clef, Strands, OpenAI: welche Entscheidungsmodelle im Oktober 2026?

TypeSafe AI trat mit Jev und 40 Millionen Dollar Finanzierung aus dem Schatten und sammelte dann am 9. Oktober 870 Millionen Dollar bei einer Bewertung von 7,5 Milliarden ein, bei Andreessen Horowitz und Sequoia Capital, berichtet SiliconANGLE. Ein Drittel der Unternehmen der Fortune-500-Liste nutze Jev bereits, so der Anbieter. Weniger als einen Monat nach dem Start sieht der Markt so aus:

Die Preise stammen aus den Preislisten von Jev, Workers AI, OpenAI und Perplexity, abgerufen am 11. Oktober 2026; keine berechnet die Ausgabetokens. Die Gewichte von Clef sind auf Hugging Face veröffentlicht, wie die von Clef-omni, von Strands Decider und des Modells von Perplexity. Die Decisions API stellte Sam Altman am 29. September vor, auf der Konferenz, auf der OpenAI auch sein ChatGPT-Abo für 500 Dollar startete. Er sieht darin ein Mittel, das Modell Luna auf eine Auswahl zu konzentrieren, um es „extremely fast“ zu machen, unter Beibehaltung des Bildverständnisses, einer breiten Sprachunterstützung und der Sicherheitsvorkehrungen, berichtet TechCrunch. Die API ist inzwischen in die öffentliche Beta übergegangen.

Nach eigenen Messungen gab Cloudflare beim Start eine mittlere Latenz von 209 Millisekunden für Clef, 39 für Clef-flash und 524 für Jev an und machte Clef am 9. Oktober 1,7- bis 2-mal schneller, laut seiner zweiten Ankündigung. Bei den vier Branchenbewertungen von TypeSafe liegt Clef bei dreien vor Jev und verliert bei der Beobachtung von Agenten-Traces:

Abstände von wenigen Punkten, von Cloudflare selbst gemessen und für die offizielle Rangliste noch nicht reproduziert, präzisiert The Register. Clef-flash, günstiger als Jev, liegt beim Kundenservice einen Punkt vorn und zieht bei der Sicherheit gleich, verliert aber fast fünf Punkte bei den Rechnungen (57,1) und fast zwei bei den Agenten-Traces. Bei den öffentlichen Benchmarks derselben Tabelle sind die Abstände manchmal deutlicher, in beide Richtungen: Clef gewinnt klar bei BANKING77 (94,2 gegen 79,7), Jev bei When2Call (81,0 gegen 72,4). Die Tabelle nennt bereits weitere Modelle dieser Art, etwa Kev 9B oder Laya: Der Markt ist, schreibt Cloudflare, „getting increasingly saturated“.

Cloudflare nennt auch einen eigenen Einsatz. Sein Threat-Intelligence-Team lässt Domains von Clef klassifizieren, das die Seite mit seinem Browser Browser Run öffnet und zum Beispiel „fashion website“ mit 95 %, „ecommerce“ mit 85 % und „phishing“ mit weniger als 1 % antwortet. Das Ganze in 2,2 Sekunden, gegenüber 4,7 für gpt-oss-120b, sein schnellstes Allzweckmodell, das nur zwei Kategorien lieferte. Addiert übersteigen diese Wahrscheinlichkeiten 100 %: Jede Kategorie wird für sich beurteilt, und eine Website kann zugleich Mode und Shop sein.

Der Chef von TypeSafe, Diogo Almeida, sieht noch keinen echten Konkurrenten. Der frühere OpenAI-Mitarbeiter, der 2022 den Artikel über InstructGPT mitverfasst hat, die Trainingsmethode, die ChatGPT vorausging, findet, diese Kopien glichen Ingenieuren, die „wanting to implement a cool architecture“, eher als einem Team, das Intelligenz nützlich machen will, sagte er TechCrunch.

Wofür dient ein Entscheidungsmodell, je nach Branche?

Ein Entscheidungsmodell dient dort, wo dieselbe Entscheidung Hunderte oder Tausende Male wiederkehrt, auf frei formuliertem Text, und bestimmt, was danach geschieht. Die Einsatzkarte von TypeSafe ordnet die Fälle nach Branche, oft mit einem Ausgang zu einem Menschen. Hier eine Lesart für Unternehmen:

Die ersten veröffentlichten Fälle weisen in diese Richtung. Bei Vercel wechselte ein Klassifikator, der die Sicherheit von Befehlen prüft, von einem Modell von OpenAI zu Jev, mit 5- bis 18-mal schnelleren und genaueren Antworten, laut TechCrunch. Bei Jack & Jill, einer Recruiting-Plattform, auf der Agenten Bewerber und Unternehmen zusammenbringen, ersetzte Jev Gemini 3.1 Flash Lite bei der Vorauswahl der Bewerber: Kosten durch acht geteilt und eine doppelt so schnelle Sortierung bei vergleichbarer Qualität, laut der von TypeSafe veröffentlichten Fallstudie. Bei Cloudflare schließt Clef bereits unerwünschte Tickets im öffentlichen Repository der Dokumentation, erkennt Phishing unter den Erweiterungen seines Content-Management-Systems und sucht nach personenbezogenen Daten wie Ausweisnummern, laut der Ankündigung vom 9. Oktober; das Unternehmen will es auch verfeinern, um seine Supportanfragen zu sortieren, die Meldungen seines Trust-and-Safety-Teams zu beurteilen oder gute von schlechten Bots zu unterscheiden. Und das Gateway OpenRouter bietet Jev Router an, das für jede Anfrage Modell und Denkaufwand wählt. Clef liest auch Bilder, Clef-omni Ton: Ein Produktfoto, ein Screenshot oder das Geräusch einer Maschine können Teil des Zustands sein.

Für eine kleine Organisation ist die erste Frage das Volumen. Eine Entscheidung, die zwanzigmal am Tag fällt, regelt man oft mit einer schriftlichen Regel oder von Hand. Das Entscheidungsmodell wird interessant, wenn das Volumen übersteigt, was eine Person sortieren kann, ohne ihre Tage damit zu verbringen, oder wenn die Antwort in einem Bruchteil einer Sekunde kommen muss, in einer Oberfläche oder in der Schleife eines Agenten.

Was taugen die Versprechen der Entscheidungsmodelle?

Für ihre Befürworter korrigieren diese Modelle ein Missverständnis: Ein Modell, das auf Gespräche trainiert ist, um ein „Ja“ zu bitten, heißt Prosa zu bezahlen, um einen booleschen Wert zu erhalten. „We have lightning in a bottle, and yet it is not useful“, fasst Diogo Almeida in TechCrunch zusammen, weil die großen Modelle auf menschliche Sprache optimiert sind. Das zweite Argument ist die Wahrscheinlichkeit. Laut TypeSafe gilt: „If a model can do a task 95% of the time but doesn’t say when it’s in the 5%, it can’t automate that task.“ Der technische Leiter von Bryo AI sieht in Jev übrigens das einzige Modell, das eine echte Wahrscheinlichkeit liefert, auch wenn sich Gemini in seinem Test zur Sortierung geschäftlicher E-Mails als etwas genauer erwies, bei 10- bis 20-mal höheren Kosten.

Die Skeptiker beginnen bei den Zahlen. Die Zahlen auf der Startseite von Jev stammen aus von TypeSafe aufgebauten Bewertungen, was das Unternehmen in seiner Ankündigung einräumt: Diese Gewinne lägen am oberen Ende der realen Spanne, und eine Verzerrung sei nicht ausgeschlossen. Die von den Nutzern selbst veröffentlichten Messungen hat das Team der Software OpenChamber aus 12 759 auf X veröffentlichten Nachrichten erhoben, darunter 215 Geschwindigkeits- und 180 Preismessungen; eine Sammlung von Erfahrungsberichten und kein Benchmark, warnen die Autoren.

Die bei den Nutzern gemessenen Gewinne bleiben beträchtlich, aber weit von der Startseite entfernt. Für Armin Ronacher, technischer Leiter von Earendil, „delegates the hallucination problem a little bit to the user“ Jev, denn der Nutzer muss entscheiden, was er mit einer Antwort bei 50 % anfängt (TechCrunch).

Und die Idee ist nicht neu: Klassifikatoren gibt es seit Jahren, und die meistgesehene Kritik am Start reduzierte Jev laut OpenChamber auf eine verbesserte Code-Weiche. Das Neue, wenn die Versprechen halten: nichts zu trainieren, Kategorien in der Anfrage definiert, das Textverständnis eines großen Modells und eine Wahrscheinlichkeit, die stimmt. Die Nutzung jedenfalls ist real: Laut Vercel nutzten nach 24 Stunden fast 13 % der zahlenden Teams seines Gateways Jev, doppelt so viele wie die GPT-5.6-Familie im selben Stadium, und die nächste Bewährungsprobe wird sein, ob diese Nutzung anhält.

Was ändert das für die KI-Branche?

Erste Wirkung: Das Format wurde in zwei Wochen zur Massenware, so sehr, dass Clef die API von Jev übernimmt, um es ohne Codeänderung zu ersetzen. Die Preise sind gefolgt: Perplexity berechnet halb so viel wie Jev, und Cloudflare hat Clef-flash am 9. Oktober unter den Preis von Jev gesenkt, bei verkleinertem Kontextfenster. Am selben Tag sammelte TypeSafe 870 Millionen Dollar ein: Die Investoren setzen auf den Pionier. Der Wert verlagert sich zu dem, was sich nicht so schnell kopieren lässt: Wahrscheinlichkeiten, die stimmen, gemessen von anderen als dem Anbieter.

Zweite Wirkung: Die KI teilt sich auf, mit schnellen Modellen, die bei jedem Schritt entscheiden, und großen Modellen, die nur zum Schreiben oder Nachdenken aufgerufen werden. Marc Brooker, der Amazon-Ingenieur hinter Strands Decider, sieht darin „a perfect decider for a workflow step“ (TechCrunch). Jede Runde der Schleife eines Agenten kann über eine schnelle Prüfung laufen, eine Vorsichtsmaßnahme, die der Fall der OpenAI-Agenten, die Hugging Face gehackt haben, sehr konkret macht. Und der Router, der das Modell wählt, wird selbst zu einem Modell.

Dritte Wirkung: Das Fine-Tuning wird zum Produkt. Jev liefert allen Kunden dieselben Gewichte und trainiert nicht mit ihren Daten: Man passt es über die Anfrage an, laut seiner Dokumentation. Cloudflare geht den umgekehrten Weg mit einem Fine-Tuning-Dienst für Clef: Ihr über sein KI-Gateway erfasster Datenverkehr wird zu einem Datensatz, dann wird das Modell bei Cloudflare neu trainiert und bereitgestellt, zunächst mit seinen Ingenieuren, später im Self-Service. Das Unternehmen warnt selbst, dass ein verfeinertes Modell an Vielseitigkeit verlieren kann, was es an Genauigkeit in seinem Bereich gewinnt.

Die vierte Wirkung, für uns die wichtigste, steckt im Namen. Jev verdankt ihn William Stanley Jevons, dem Ökonomen, der 1865 in The Coal Question erklärte, dass Einsparungen bei Kohle deren Verbrauch nicht senken:

TypeSafe bekennt sich zu der Parallele: Jede Senkung der Kosten der Intelligenz um eine Größenordnung würde Größenordnungen neuer Anwendungen eröffnen. Günstigere Entscheidungen werden die Gesamtrechnung der KI also nicht senken, sondern die automatisierten Entscheidungen vervielfachen. Das ist der Mechanismus, den wir im Zusammenhang mit Energie und Wasser, die KI verbraucht, beschrieben haben.

Was wir davon halten

Die Idee stimmt, und wir wenden sie bereits an: trennen, was entscheidet, von dem, was schreibt. Unsere interne Routing-Tabelle überträgt Sortierung, Klassifikation und Intent-Routing einem sehr kleinen Modell, mit einem offenen Modell auf unserem eigenen Server als Rückfallebene, und einer schriftlichen Regel: Der Router selbst darf fast nichts kosten. Die Entscheidungsmodelle zielen genau auf dieses Feld. Sie kommen über unseren Prüfstand hinein, nicht auf Zuruf. Ihre wirkliche Neuheit ist für uns die Wahrscheinlichkeit: Wenn sie stimmt, erlaubt sie, eine Schwelle in Kenntnis der Sache einzustellen.

Aber günstiger heißt nicht notwendig. TypeSafe schreibt es selbst in seinem Leitfaden: Behalten Sie deterministische Arbeit im Code, sie sei „reliable and cheap“, und vermeiden Sie Agentenschleifen, wenn ein Software-Workflow genügt. Eine schriftliche Regel bezahlt keinen Modellaufruf und irrt sich nie bei dem, was sie abdeckt; ein Entscheidungsmodell ersetzt sie nicht, es ersetzt ein großes Modell, das zum Sortieren eingesetzt wird. Nicht jede Automatisierung braucht KI, und sie ohne Bedarf überall einzusetzen, vervielfacht die Kosten und lässt Projekte ausufern. Das ist das Prinzip unseres Angebots Automatisierung mit n8n, mit oder ohne KI: KI nur dort, wo sie sich auszahlt, und ein Entscheidungsmodell wie Jev, wenn freier Text zu sortieren ist. Unser Leitfaden zur Automatisierung ohne KI hilft, die Automatisierungen zu erkennen, die ohne auskommen.

Bleibt die Abhängigkeit. Jev ist ein proprietäres und junges Produkt, in den USA gehostet und zuerst auf Englisch trainiert, dessen Preis sich auf Dauer noch nicht bewährt hat. Seine 870 Millionen Dollar geben ihm die Mittel, um durchzuhalten, nicht die Garantie, dass dieser Preis hält: TypeSafe räumt ein, nicht beweisen zu können, dass er nicht subventioniert ist. Clef verringert dieses Risiko: Es spricht dieselbe API, und seine offenen Gewichte lassen sich bei Ihnen installieren. Halten Sie die Entscheidung hinter Ihrer eigenen Schnittstelle, damit ein Anbieterwechsel eine Konfigurationsänderung bleibt.

Was uns umstimmen würde: unabhängige Bewertungen, nicht von den Anbietern veröffentlicht, die zeigen, dass diese Wahrscheinlichkeiten bei Unternehmensdaten in anderen Sprachen als Englisch zuverlässig bleiben, und Preise, die ein Jahr lang halten.

Wie führt man ein Entscheidungsmodell ein?

Hier ist das Vorgehen, dem wir folgen. Es beginnt bei der Arbeit, nicht beim Modell.

1. 01Die wiederkehrenden Entscheidungen auditieren.

   Man kartiert die Prozesse mit den Menschen, die die Arbeit machen, erfasst die Werkzeuge und ihre Kosten, prüft, welche sich anbinden lassen (eine API, ein Export, gar nichts), und misst Hemmnisse und Bereitschaft des Teams sowie seinen Schulungsbedarf. Daraus ergeben sich die repetitiven Entscheidungen, mit ihrem Volumen und den Kosten eines Fehlers. Das ist der Gegenstand unseres Audits zur digitalen und KI-Reife, das dazu dient, Ihre Vorhaben nach Wirkung und Machbarkeit zu ordnen, mit einem schriftlichen GO/NOGO, in zwei bis vier Wochen für 3 500 €. Das ist eine Investition, die ihren vollen Sinn entfaltet, wenn mehrere Dutzend Menschen dieselben Entscheidungen wiederholen.

2. 02Entscheidung für Entscheidung die Stufe der Treppe wählen.

   Eine Regel, wenn sich die Entscheidung aufschreiben lässt (ein Betrag, ein Datum, ein Status). Ein Entscheidungsmodell für das Unklare: eine frei formulierte E-Mail, eine zu beurteilende Agentenaktion. Ein großes Modell, wenn geschrieben oder nachgedacht werden muss. Ein Mensch unterhalb der Schwelle, und immer bei einer Entscheidung, die eine Person betrifft.

3. 03Die Fragen entwerfen

   Nach den Grundsätzen des folgenden Abschnitts.

4. 04Testen, dann beobachten.

   Der Prüfstand vergleicht mehrere Modelle an 20 bis 30 echten Stichproben, ein Entscheidungsmodell neben klassischen Modellen: genug zum Wählen, nicht genug, um eine Fehlerquote zu garantieren. Das gewählte Modell arbeitet danach im Beobachtungsmodus: Es entscheidet neben dem Team, ohne zu handeln, bis jede Konfidenzspanne genug Fälle zählt. Um eine Fehlerquote von etwa 10 % auf 3 Punkte genau zu messen, mit der üblichen Sicherheit von 95 %, braucht es fast 400 Fälle in derselben Spanne (die klassische Berechnung eines Konfidenzintervalls für einen Anteil). Unser Leitfaden, ein KI-Modell vor der Produktion zu bewerten, beschreibt die Methode.

5. 05Das Modell hinter Ihre eigene Schnittstelle setzen.

   Der Fachcode spricht nur mit dieser Schnittstelle, die Budget und Obergrenze jeder Nutzung, die Rückfallebene bei Ausfall und das Kostenprotokoll hält: Ein Modellwechsel berührt den Fachcode nicht. Die Schwellen werden nach der Beobachtungsphase eingestellt, höher für eine unumkehrbare Aktion.

6. 06Das Team schulen.

   Die Personen, die die Fälle unterhalb der Schwelle übernehmen, lernen, eine Wahrscheinlichkeit zu lesen und das Modell zu korrigieren. Jede Korrektur wird notiert: Sie ist das Material, das zur Neukalibrierung dient.

Wie entwirft man die Fragen eines Entscheidungsmodells?

Ein Entscheidungsmodell ist so gut wie seine Fragen. Der Leitfaden von TypeSafe passt in einige Grundsätze, die wir übernehmen:

• Atomare Fragen. Eine Frage, eine Eigenschaft. „Ist diese Nachricht eine dringende Reklamation zu einer Bestellung?“ verbirgt drei Urteile; drei kurze Fragen zeigen sie, und der Code kombiniert sie. Das ist laut TypeSafe wahrscheinlich der wichtigste Grundsatz seines Leitfadens.
• Explizite Kriterien. Bei einer Auswahl sagt jede Option, was sie abdeckt und was zu einer anderen gehört, mit einigen Beispielen. Hier kommt Ihr Fachwissen ins Modell.
• Nur der nützliche Kontext. Ein Zustand voller unnützer Informationen kostet Genauigkeit, und TypeSafe rät, sich nicht auf das zu verlassen, was das Modell schon weiß, wenn die aktuelle Information in Ihrer Datenbank liegt.
• Das Rechnen dem Code. Jev zählt schlecht und liest Datumsangaben als Text, laut der Seite seiner bekannten Schwächen. Ein Betrag, eine Frist oder eine Artikelanzahl werden vor dem Aufruf des Modells berechnet.
• Die Reihenfolge der Optionen testen. Jev neigt manchmal zur ersten Option einer Liste: Prüfen Sie, dass ein Vertauschen der Optionen die Antwort nicht ändert. Cloudflare sagt, es habe Clef mit Daten trainiert, in denen die Reihenfolge der Felder und die Form der Fragen variieren; der Test bleibt nützlich.
• Schwellen nach Risiko. TypeSafe schlägt drei Zonen vor: handeln, wenn die Konfidenz hoch ist, dazwischen bestätigen oder prüfen lassen, abgeben, wenn sie niedrig ist. In seinem Bankbeispiel genügt für das Anzeigen eines Kontostands das Überschreiten einer Untergrenze von 50 %, während das Genehmigen einer Überweisung mehr als 90 % verlangt, und dann noch mit einer Bestätigung. Fangen Sie vorsichtig an und passen Sie anhand Ihrer Daten an, rät seine Seite zur Konfidenz.

Ein Beispiel. Ein Onlineshop erhält: „Meine Bestellung ist immer noch nicht angekommen, und mir wurde doppelt abgebucht.“ Eine einzige Frage, „Zu welcher Abteilung gehört diese Nachricht?“, würde zwingen, zwischen Lieferung und Abrechnung zu wählen. Besser stellt man in derselben Anfrage:

1. „Meldet die Nachricht eine Lieferverzögerung?“ (wahr oder falsch)
2. „Meldet die Nachricht ein Zahlungsproblem?“ (wahr oder falsch)
3. „Wie groß ist die Verärgerung des Kunden?“ (eine Bewertung auf vier Stufen)

Die drei Fragen beziehen sich auf denselben Zustand und werden parallel bewertet: Zerlegen fügt keinen zusätzlichen Hin- und Rückweg hinzu, präzisiert TypeSafe. Vor dem Aufruf hat der Code die Bestellung gefunden und die Abbuchungen in der Datenbank gezählt: Das Modell muss es nicht erraten. Danach öffnet der Code eine Aufgabe für die Lieferung, eine für die Abrechnung und stuft den Vorgang als vorrangig ein, wenn die Verärgerung stark und die Konfidenz ausreichend ist.

Wo betreibt man ein Entscheidungsmodell?

Drei Optionen, die man nach Ihren Daten, Ihrem Volumen und der Antwortzeit wählt, die die Nutzung verträgt:

Die API des Anbieters ist für den Anfang am einfachsten: nichts zu installieren, und die Grenze von 80 Anfragen pro Sekunde übersteigt bei weitem die Million monatlicher Entscheidungen aus dem Kostenbeispiel weiter unten, die im Schnitt weniger als eine pro Sekunde ausmachen. Sie eignet sich für öffentliche Daten. Für interne Daten verlangt unser Sensibilitätsraster einen Anbieter ohne Speicherung: Bei TypeSafe wird die Nullspeicherung als Option für Unternehmenskunden dargestellt, und die Vereinbarung zur Auftragsverarbeitung sieht für die Übermittlungen die Standardvertragsklauseln der Europäischen Kommission vor. Personenbezogene und regulierte Daten bleiben selbst gehostet. Für ein europäisches Unternehmen ist das US-Hosting diskussionswürdig, wie wir zur Abhängigkeit von der US-Cloud ausführen; OpenAI bietet übrigens an, die Anfragen seiner Decisions API in Europa zu verarbeiten, unter Bedingungen und gegen Aufpreis, laut seiner Dokumentation.

Workers AI betreibt Clef auf den Grafikkarten, die Cloudflare in seinem Netz verteilt, möglichst nah am Nutzer, neben großen Modellen, die am selben Ort gehostet werden. Die Seite von Clef nennt einen Kontext von 65 536 Tokens und das Lesen von Text, JSON, Bildern und Video; die von Clef-omni fügt Ton hinzu, und Clef-flash ist seit seiner Preissenkung auf 24 576 Tokens begrenzt. Das Freikontingent von Workers AI, 10 000 „Neuronen“ pro Tag, deckt fast 460 000 gelesene Tokens pro Tag mit Clef und fast 2,9 Millionen mit Clef-flash ab, also etwa 300 Entscheidungen zu 1 500 Tokens auf der einen und fast 2 000 auf der anderen Seite; darüber hinaus berechnet das kostenpflichtige Angebot von Workers 0,011 Dollar pro 1 000 Neuronen. Wenn Ihre Daten in Europa bleiben müssen, prüfen Sie, wo die Inferenz läuft: Die Modellseiten sagen es nicht.

Ihr eigener Server behält alles bei Ihnen. Strands Decider 2B läuft laut seinem Datenblatt sogar nur auf dem Prozessor, was es in Reichweite eines gewöhnlichen Servers bringt, mit einer zu messenden Geschwindigkeit. Clef-flash verlangt eine Karte mit mindestens 41 GB Speicher, Clef 85 GB, präzisierte eine Produktverantwortliche von Cloudflare gegenüber The Register, für eine Anfrage zur Zeit mit vollem Kontext. Bei Scaleway kostet eine L40S-Karte mit 48 GB in Paris etwa 1 073 Euro netto pro Monat, laut seiner Preisliste, abgerufen am 11. Oktober 2026. Zum Vergleich: 1 000 Dollar kaufen etwa 26 Milliarden von Clef-flash gelesene Tokens auf Workers AI, mehr als 17 Millionen Entscheidungen zu 1 500 Tokens: Unterhalb solcher Volumen rechtfertigt sich ein eigener Server eher durch die Sensibilität der Daten als durch den Preis. Eine in Europa gemietete Karte entspricht Stufe 3 unserer vier Stufen privater KI, eine Maschine in Ihren Räumen Stufe 4. Wir betreiben bereits offene Modelle mit Ollama auf unserem eigenen Server in Produktion, für sensible Daten.

Was kostet ein Entscheidungsmodell wirklich?

Pro Aufruf wenig. Nehmen wir die Annahmen unseres Leitfadens zu den KI-Kosten im Unternehmen: 1 500 gelesene Tokens pro Entscheidung und eine Antwort von 50 Tokens, zu den am 11. Oktober 2026 abgerufenen Tarifen, bei gleicher Tokenzahl (jedes Modell zerlegt den Text auf seine Weise).

Claude Haiku 5.5, das Einstiegsmodell von Anthropic, das der Anbieter für Klassifikation, Extraktion und Routing vorsieht, ist mit 0,10 Dollar pro Million Eingabetokens und 0,50 für die Ausgabe angesetzt, laut der Preisliste von Anthropic. Der Preis von OpenAI ist sein Grundtarif, ohne Aufpreis für eine Verarbeitung in Europa. Auf Workers AI deckt das Freikontingent die erste Spalte ab, die weniger als hundert Entscheidungen pro Tag darstellt. Und drei Fragen zur selben Nachricht zu stellen, verdreifacht die Rechnung nicht: Jev liest den Zustand einmal und bewertet alle Fragen parallel, laut seiner Dokumentation.

Für ein KMU, das 2 000 E-Mails pro Monat sortiert, zählt der Unterschied in Cent, während eine falsch einsortierte E-Mail die Zeit der Person kostet, die sie wieder einfängt. Gegenüber den neuesten kleinen Sprachmodellen genügt der Preis übrigens nicht mehr zur Unterscheidung: Claude Haiku 5.5 kostet nur etwa dreimal so viel wie Jev und weniger als Clef. Der Unterschied wiegt erst bei sehr großem Volumen wirklich, dem von Agenten, die jede ihrer Aktionen prüfen lassen: Bei hundert Millionen Entscheidungen pro Monat würde Jev etwa 6 300 Dollar kosten und Haiku 5.5 17 500. Der Rest entscheidet sich an der Geschwindigkeit und an einer kalibrierten Wahrscheinlichkeit, die Sprachmodelle nicht von Haus aus liefern.

Die Kombination wiegt schwerer als der Stückpreis. Nehmen wir ein Lehrbuchbeispiel, in dem jede Stufe der Treppe nur erhält, was die vorherige nicht geregelt hat:

Summe: etwa 32 Dollar pro Monat, gegenüber 175, wenn alles über Haiku liefe. Die Anteile sind für das Beispiel erfunden; nur Ihre zählen, und das Audit dient dazu, sie zu messen.

Die wahren Kosten liegen woanders:

• Die Einrichtung. Audit, Prüfstand und Entwurf der Fragen wiegen bei kleinem Volumen weit mehr als die Modellaufrufe.
• Die menschliche Zeit unterhalb der Schwelle. Eine zu vorsichtige Schwelle schickt zu viele Fälle an das Team zurück, eine zu kühne lässt Fehler durch. Die richtige Einstellung liest man im Entscheidungsprotokoll.
• Die Überwachung. Ein Workflow, der still scheitert, kostet mehr als ein teures Modell: Jeder Fehlschlag muss einen Alarm auslösen, und jede Entscheidung eine Spur hinterlassen. Unser Leitfaden, die n8n-Workflows zu überwachen, zeigt, wie man rechtzeitig gewarnt wird.
• Der Jevons-Effekt. Entscheidungen, die fast nichts kosten, vervielfachen sich, und mit ihnen die zu überwachenden Fehler. Deshalb geht jede Automatisierung, die wir liefern, mit ihrem Kostenzähler hinaus.

Wie begleitet man ein Entscheidungsmodell nach der Inbetriebnahme?

Ein Entscheidungsmodell setzt man nicht ein für alle Mal ein. Vier Gewohnheiten halten es zuverlässig:

1. Ein Entscheidungsprotokoll. Für jede Entscheidung: die Modellversion, die Optionen, die Wahrscheinlichkeiten, die angewandte Schwelle, was der Code getan hat, und die menschliche Korrektur, falls es eine gab. Dieses Protokoll erlaubt, die Fehler pro Konfidenzspanne nachzuzählen, und bereitet auf das vor, was der AI Act für Hochrisiko-Anwendungen verlangen wird: die Protokollierung der Aktivität und die menschliche Aufsicht.
2. Eine eingefrorene Version. Die Dokumentation von Jev rät, die Version einzufrieren, für die Ihre Schwellen eingestellt wurden, und dann in Ihrem Tempo zur nächsten zu wechseln, nach einem neuen Test.
3. Eine regelmäßige Überprüfung. Ein wachsender Anteil von Fällen unterhalb der Schwelle oder zahlreichere menschliche Korrekturen zeigen, dass sich Ihre Daten geändert haben: neue Produkte, neue Anfragen, neues Vokabular. Unser Paket „KI zum fairen Preis“ sieht einen monatlichen Bericht und eine vierteljährliche Überprüfung der Routing-Tabelle vor, und die Entscheidung durchläuft sie wie der Rest.
4. Die Spezialisierung, wenn das Volumen sie rechtfertigt. Jev lässt sich nicht verfeinern: Man passt es über den Inhalt des Zustands und die Kriterien der Fragen an. Clef kann es mit dem Dienst von Cloudflare. Strands Decider veröffentlicht sein Trainingsrezept, etwa 11 Stunden auf einer RTX-3090-Karte, und sein Datenblatt rät, das Modell an einem Raster zu trainieren, das Ihrem nahekommt. Die von Ihrem Team notierten Korrekturen werden dann zu Trainingsdaten, mit dem von Cloudflare genannten Preis: Ein verfeinertes Modell kann an Vielseitigkeit verlieren.

Wo Sie anfangen

Gehen Sie von der Entscheidung aus, die in Ihren Automatisierungen am häufigsten wiederkehrt, etwa die Sortierung der Tickets im Kundensupport oder die Prüfung einer Aktion. Messen Sie, was sie kostet und wie oft sie sich irrt, und fragen Sie sich dann, ob eine Regel genügt; wenn nicht, verdient ein Entscheidungsmodell einen Test, mit einer Schwelle und einem Menschen darunter. Unsere Rubrik Unternehmens-KI, privat und zum fairen Preis begleitet diese Entscheidungen, und unser Paket „KI zum fairen Preis“ dient dazu, die Modelle an Ihren eigenen Inhalten zu vergleichen, mit gemessenen Kosten und beurteilter Qualität, bevor Sie entscheiden, welches Sie behalten.

Häufige Fragen

Quellen

1. Die Dokumentation von Jev (neuer Tab)docs.typesafe.ai
2. Der Ankündigung von Clef (neuer Tab)blog.cloudflare.com
3. Seinem Entwurfsleitfaden (neuer Tab)docs.typesafe.ai
4. The Register (neuer Tab)theregister.com
5. Dem Datenblatt von Strands Decider (neuer Tab)huggingface.co
6. SiliconANGLE (neuer Tab)siliconangle.com
7. Jev (neuer Tab)docs.typesafe.ai
8. Workers AI (neuer Tab)developers.cloudflare.com
9. OpenAI (neuer Tab)developers.openai.com
10. Perplexity (neuer Tab)docs.perplexity.ai
11. Sind auf Hugging Face veröffentlicht (neuer Tab)huggingface.co
12. Des Modells von Perplexity (neuer Tab)huggingface.co
13. TechCrunch (neuer Tab)techcrunch.com
14. Seiner zweiten Ankündigung (neuer Tab)blog.cloudflare.com
15. The Register (neuer Tab)theregister.com
16. Den Artikel über InstructGPT (neuer Tab)arxiv.org
17. TechCrunch (neuer Tab)techcrunch.com
18. Die Einsatzkarte von TypeSafe (neuer Tab)docs.typesafe.ai
19. TechCrunch (neuer Tab)techcrunch.com
20. Der von TypeSafe veröffentlichten Fallstudie (neuer Tab)typesafe.ai
21. Jev Router (neuer Tab)openrouter.ai
22. Die Europäische Kommission (neuer Tab)digital-strategy.ec.europa.eu
23. DSGVO (neuer Tab)eur-lex.europa.eu
24. Seiner Ankündigung (neuer Tab)typesafe.ai
25. OpenChamber (neuer Tab)openchamber.dev
26. Laut Vercel (neuer Tab)vercel.com
27. The Coal Question (neuer Tab)econlib.org
28. Der Seite seiner bekannten Schwächen (neuer Tab)docs.typesafe.ai
29. Seine Seite zur Konfidenz (neuer Tab)docs.typesafe.ai
30. Die Vereinbarung zur Auftragsverarbeitung (neuer Tab)typesafe.ai
31. Die Seite von Clef (neuer Tab)developers.cloudflare.com
32. Die von Clef-omni (neuer Tab)developers.cloudflare.com
33. Seiner Preisliste (neuer Tab)scaleway.com
34. Der Preisliste von Anthropic (neuer Tab)platform.claude.com