Hugging Face hat seiner Transformers-Bibliothek eine erstklassige Schnittstelle für "Decision Models" hinzugefügt — mit der Wette, dass ein Großteil der Unternehmens-KI gar keinen Text erzeugen muss. Statt ein Sprachmodell um JSON zu bitten, nimmt ein Entscheidungsmodell einen Zustand und eine Menge vordefinierter Optionen und gibt eine Wahrscheinlichkeitsverteilung über diese Optionen zurück — ohne ein einziges Token zu erzeugen.

Die neuen Bausteine sind DecisionPipeline, AutoModelForDecision und DecisionConfig, dazu ein decision-model-Tag auf dem Hub und ein Endpunkt /v1/systemone, der sowohl in Transformers als auch in llama.cpp funktioniert. Die Schnittstelle beruht auf zwei Eingaben — einem "State" und einer Reihe von "Fragen" — und drei Primitiven: choice (eine von mehreren Antworten wählen), score (etwas auf einer geordneten Skala einordnen und den Erwartungswert zurückgeben) und noul (eine Bernoulli-Ja/Nein-Wahrscheinlichkeit). Choice und Score liefern zudem eine "confidence", die normalisiert, wie konzentriert die Überzeugung des Modells ist.

Das Unternehmen argumentiert, der Ansatz behebe reale Probleme des Musters "frag das LLM einfach nach JSON": Modelle können ungültiges JSON erzeugen, ein Label außerhalb des zulässigen Bereichs zurückgeben oder Rechenleistung verschwenden, indem sie eine vollständige Antwort generieren, obwohl die Anwendung nur zwischen Optionen wählen musste. Entscheidungsmodelle lassen sich mit der Trainer-API oder vorerst von Hand trainieren; ein TRL-Pull-Request für erstklassige Trainingsunterstützung ist offen. Ein Detail: Mit kompatiblen autoregressiven Modellen lässt sich die Schnittstelle ohne jedes Training ausprobieren, da die Pipeline die Antwort-Logits in einem gebündelten Vorwärtsdurchlauf bewertet.

Hugging Face schreibt ausdrücklich keine einzelne Architektur vor. Der decision-model-Tag reicht bereits von encoderbasierten Modellen wie ModernBERT bis zu größeren generativen Backbones, mit Beispielen wie der Jev-Reihe von TypeSafe AI, GLiDE, H2O-Lightning, Kakao v-decide und Drex DLM. Die Community einigte sich auf "Decision Model" statt TypeSafe' früherer Bezeichnung "System One" — ein Name für die rechnerische Rolle des Modells, nicht für eine Kognitionstheorie.