Mal ehrlich: Wer von uns ist von den ausschweifenden Antworten der LLMs nicht regelmäßig genervt? Vor allem während der Arbeit, wenn wir schnelle und konkrete Lösungen suchen. Gegenüber klassischen LLMs bieten hier Decision Models eine alternative KI-Klasse. Anstelle langer Textantworten liefern sie schnelle Ergebnisse.
Mensch und Maschine entscheiden mit zwei Systemen
Daniel Kahneman, Psychologe und Pionier der Verhaltensökonomie, unterschied in seinem Bestseller „Schnelles Denken, langsames Denken“ (2011) beim menschlichen Denken zwischen System 1 und System 2. Dabei ist System 1 schnell, automatisch und intuitiv, aber anfällig für Täuschungen; System 2 ist langsam, aufwendig, kann rechnen, prüfen und begründen. Und diese zwei Systeme bilden tatsächlich auch das zweistufige Vorgehen der KI ab: Decision Models als das „Bauchgefühl“ der KI treffen eine schnelle Vorentscheidung, während ein großes LLM nur dann eingeschaltet wird, wenn Unsicherheit herrscht und eine komplexe Erörterung eines Problems nötig ist.
Kalibrierte Entscheidungen zählen
Decision Models sind oft keine völlig neue Architektur: Viele entstehen auf bestehenden Modellen, etwa Quyet auf Gemma- oder Clef auf Qwen-Basis. Jev von TypeSafe, mit dem der aktuelle Hype begann, ist dagegen ein geschlossenes Modell. Es wird mit Reinforcement Learning for Calibrated Decisions (RLCD) trainiert. Belohnt wird nicht die gefälligste Antwort, sondern das Trainingssystem gibt dem Modell eine positive Rückmeldung für eine korrekt kalibrierte Wahrscheinlichkeit. Die Ausgabe ist kein Fließtext, wie es von Claude, ChatGPT und Co bekannt ist, sondern eine Wahrscheinlichkeit, beispielsweise: „Spam mit 0,96“ oder „Ja mit 0,82“. Wenn ein Modell unsicher ist, meldet es das etwa über einen Wert nahe 0,5.
Drei Fragetypen decken die meisten Anwendungsfälle ab:
Choice: Auswahl aus mehreren vorgegebenen Optionen
Scoring: Bewertung auf einer Skala
Boolean: Ja/nein beziehungsweise wahr/falsch
Vorteile von Decision Models gegenüber LLMs
Decision Models sind extrem schnell und günstig. Eine einzelne Frage beantwortete Jev in unserem Test nach rund 250 Millisekunden. Die Kosten dafür liegen bei rund 0,003 US-Cent. Mit Decision Models lassen sich große Datenmengen in Serie klassifizieren. Ein weiterer Vorteil: Die Modelle erfinden keine neuen Optionen. Wenn die möglichen Antworten „Ja, Nein, Vielleicht“ sind, wählen sie ausschließlich daraus – das reduziert Halluzinationen und macht die Systeme besser kontrollierbar für Produktionsumgebungen.
Praktische Use-Cases von Decision Models
Voice Agent: Ein Decision Model routet Anfragen wie „Zeig mir das Wetter" direkt an das passende Tool, im Median in rund 266 Millisekunden.
Generative UI: Aus einem Prompt entscheidet Jev, welche UI-Komponenten benötigt werden und in welcher Reihenfolge sie erscheinen; ein Sprachmodell füllt anschließend Texte und Details. Auswahl und Reihenfolge dauerten in unserem Test gut 0,7 Sekunden.
Browser-Filter: Eine Extension bewertet YouTube-Videos oder Hacker-News-Beiträge anhand persönlicher Interessen und blendet mutmaßlichen Clickbait aus.
Coding-Agent-Routing: Decision Models können festlegen, welcher Aufwand für einen Prompt nötig ist, etwa niedriger, mittlerer oder hoher Reasoning-Effort. Beim Wechsel zwischen verschiedenen großen Modellen kann der Prompt-Cache verloren gehen.
FFmpeg-Helper: Statt unübersichtlicher Parameter zu raten, entscheidet das Modell, welche Operation nötig ist, ob sie destruktiv ist und ob ein anderes Tool besser passt.
Spiele-Autopilot: In unserem Shooter Sprint Doom traf Jev Entscheidungen zu Bewegung, Waffen, Zielen und Aktionen – im Median in 288 Millisekunden und für rund 0,33 US-Dollar pro Stunde.
Der Bauch kann jedoch auch versagen
Das Modell weiß nur, was man ihm zeigt, und fällt auch auf Clickbait herein. „CLAUDE CODE IST TOT" passte für Jev mit 0,93 zu den Interessen, erst eine zweite Frage nach Clickbait fing den Titel ab.
Fazit: Auf Bauch und Kopf von KI hören
Decision Models sind kein grundsätzlicher Ersatz für LLMs. Auch starke Modelle können bei Denkaufgaben danebenliegen: Bei einer getarnten Rechenfalle wählte GPT Luna die falsche Antwort, während Jev und Clef richtig lagen. Solche Modelle erkennen eher Muster, als dass sie gründlich rechnen. Die zentrale Botschaft lautet: Für viele alltägliche KI-Probleme reicht ein kleines, schnelles Decision Model anstelle eines großen LLMs – besonders bei Filtern, Routing, Klassifikation und Tool-Auswahl.
Gute KI-Systeme kombinieren einen schnellen „Bauch" mit einem leistungsfähigen „Kopf". Und einer Regel, wer wann übernimmt.
Diesen Artikel teilen