Liquid AI hat am Dienstag LFM3 vorgestellt: eine Familie offener Gewichte im 2-Milliarden-Parameter-Bereich, die sechs Modelle aus einem einzigen Basis-Backbone ableitet – Text, Vision, Audio, ein Omni-Modell und zwei Entscheidungsmodelle. Der Anspruch ist nicht, die größten Modelle zu schlagen. Der Anspruch ist, dass ein kleines Modell, das man auf einer GPU auf die eigene Aufgabe feintunen kann, für genau diese Aufgabe besser ist als ein Generalist, den man über eine API mietet.
Die Architektur
Der Backbone LFM3-1.7B-Base hat 24 Schichten in drei Sorten: 13 gated short convolutions mit Kernel-Größe 7, fünf Schichten Sliding-Window-Attention mit einem Fenster von 256 Token und sechs Schichten globale Attention. Liquid nennt das eine tri-hybride Mischung; sie entstand nach eigener Darstellung aus einer Architektursuche, die Hardware-in-the-loop über 14 Geräte- und Backend-Kombinationen lief – von Smartphones und einem Raspberry Pi 5 über Apple M4 Max und AMD Ryzen AI bis zu Arm- und x86-Cloud-CPUs, GPUs und Qualcomms Hexagon-NPU.
Dazu kommen mehrere Details, die auf Effizienz zielen: head-wise gated attention, bei der ein Sigmoid-Gate den Beitrag jedes Kopfes herunterskalieren kann, partial RoPE in den globalen Schichten und eine Sandwich-Normalisierung. Das Vokabular umfasst 128.000 Token und ist auf nicht-lateinische Schriftsysteme optimiert.
Trainiert wurde auf 22 Billionen Token; die letzten 3,5 Billionen davon in einer Mid-Training-Phase, die den Kontext auf 256.000 Token erweitert und den Anteil agentischer Spuren und Tool-Aufrufe erhöht. Danach folgten vier Post-Training-Stufen: überwachtes Feintuning, gemischtes Reinforcement Learning mit Längenstrafe, On-Policy-Distillation von sechs spezialisierten RL-Lehrern und schließlich agentisches RL in echten Agent-Harnesses.
Was die Zahlen sagen – und was nicht
Im eigenen Durchschnitt über die gemeldeten Benchmarks kommt LFM3-1.7B auf 49,37 Punkte, vor Qwen3.5-9B (47,24) und deutlich vor Gemma 4 E4B (31,74). Bei Tool-Nutzung und Instruktionsbefolgung liegt es vorn: BFCL V4 71,39, ToolSandbox 80,36. Bei agentischem Coding verliert es klar – SWE-bench Verified 43,40 gegen 51,20 für das fast sechsmal größere Qwen3.5-9B –, und beim Weltwissen ebenso. Das ist keine Schwäche der Ankündigung, sondern ihr ehrlichster Teil: Größe zählt dort, wo Wissen und langkettige Reparaturarbeit gefragt sind.
Bemerkenswert ist ein anderes Ergebnis: Bei AA-Omniscience liegt die Non-Hallucination-Rate bei 92,93 Prozent, gegen 52,59 Prozent für Qwen3.5-9B. Ein kleines Modell, das häufiger zugibt, etwas nicht zu wissen, ist für Entscheidungsaufgaben oft nützlicher als eines, das selbstsicher rät.
Auf dem Gerät
Mit llama.cpp in Q4_0 und 32K-Kontext dekodiert LFM3-1.7B nach Herstellerangaben 1,8- bis 2,8-mal schneller als das nächstbeste Vergleichsmodell und braucht am wenigsten Speicher. Ein voller 128K-Kontext belegt 1,6 GB KV-Cache – gegen 4,3 GB bei Qwen3.5-4B und 5,6 GB bei MiniCPM5-2B. Auf einem einzelnen B300 mit SGLang seien bei 1.024 gleichzeitigen Anfragen 3,6 Milliarden Token pro Tag möglich; Liquid ließ zur Demonstration über 300.000 Agenten parallel ein E-Mail-Archiv durchsuchen.
Die Vision-Variante nimmt erstmals auch Video als Eingabe, die Audio-Variante deckt 18 Sprachen ab und wandelt Text in Sprache mit einem eigenen Codec um. Die beiden Entscheidungsmodelle d1-2B und d1-Omni-2B beantworten statt zu formulieren: viele Fragen in einem einzigen Vorwärtspass, jede mit kalibrierter Wahrscheinlichkeit, inklusive Markierungen im Bild und extrahierten Textstellen.
Der eigentliche Test
Liquid zeigt zwei Feintuning-Beispiele, die den Punkt tragen: ein Modell für Risse an Windradflügeln, trainiert in wenigen Stunden auf einer A100 mit rund 3.000 Fotos, das die Klassifikationsgenauigkeit von unter 10 auf 67 Prozent hebt; und ein Roboter-Controller, der als LoRA-Adapter in sechs GPU-Stunden auf einer AMD MI325X entsteht und auf LIBERO 96,2 Prozent erreicht.
Ob das trägt, entscheidet nicht der Blogpost, sondern der erste Anwender, der ein 2B-Modell auf seine eigenen Daten setzt und feststellt, dass es reicht. Die Benchmarks sind vom Hersteller gefahren; unabhängige Nachbauten fehlen noch. Wer heute mit LFM3 plant, sollte zwei Dinge prüfen: ob die Aufgabe wirklich schmal genug ist, und ob die Fehlergrenze im eigenen Betrieb niedriger liegt als beim Generalisten aus der Cloud.
