Nach dreieinhalb Jahren hat llama.cpp die 1.0 erreicht. Die Inferenz-Engine, die das Ausführen offener Modelle auf gewöhnlicher Hardware selbstverständlich gemacht hat — in C und C++ geschrieben, auf der Tensor-Bibliothek ggml aufbauend — erschien am 13. November als v1.0.0, zusammen mit ggml v1.0.0.
Die Schlagzeile ist kein neues Feature, sondern ein Versprechen: Beide Projekte folgen jetzt semantischer Versionierung. Eine brechende Änderung an der öffentlichen C-API in `./include` bedeutet einen Major-Sprung, abwärtskompatible Features, Backend-Updates, neue Modellunterstützung oder API-Erweiterungen einen Minor-Sprung, Fehlerkorrekturen einen Patch. Das Team begründet das als Schuld gegenüber Downstream-Entwicklern: "Jede neue Integration bedeutet mehr Entwickler, die von unseren Bibliotheksschnittstellen abhängen — eine flexible, aber stabile API ist daher entscheidend."
Das Ökosystem, für das die Version spricht, ist groß und industriell. llama.cpp unterstützt mehr als 150 Architekturvarianten und alle gängigen spekulativen Dekodierverfahren; ggml-Backends lassen sich als dynamische Bibliotheken kompilieren und zur Laufzeit laden. Die Distribution umfasst Docker, Debian, Homebrew, conda-forge, MacPorts, Winget und ein XCFramework für iOS und macOS. Die Continuous Integration läuft auf selbst gehosteten Runnern mit Hardware von Nvidia, AMD, Qualcomm, Arm, IBM und Intel.
Die praktische Folge für alle, die lokale oder private KI ausliefern: Upgrades werden lesbar. Wenn ein Update den Build bricht, sollte die Versionsnummer das nun sagen.




