Nvidia hat unter github.com/dsx-ai-factory/nvke ein Projekt namens NVIDIA Kubernetes Engine veröffentlicht — kurz NVKE, Apache 2.0, in Go geschrieben, laut eigener Beschreibung "eine Management-Plane für GPU-Kubernetes auf Bare Metal". Es ist die interessanteste Veröffentlichung der Woche, die niemand als Produkt angekündigt hat, und die ehrlichste: Die README sagt selbst, dass sie nicht für den Produktivbetrieb geeignet ist.

Was es tut

NVKE ist keine Kubernetes-Distribution und kein Cluster-API-Flavor. Es ist, in der Formulierung der eigenen Dokumentation, eine "selbsthostende Fabrik für Kubernetes-Cluster". Ein Betreiber installiert die Management-Plane. Diese erzeugt auf Anforderung über eine API oder das Kommandozeilenwerkzeug nvkectl voneinander unabhängige Workload-Cluster, jeder mit eigener Control Plane, eigenem etcd und eigenen Node-Pools. Der Kunde bekommt einen Kubeconfig und arbeitet mit kubectl; er sieht die Management-Plane nie.

Darunter liegt eine zweite Schicht, die verrät, wohin das zielt: Die Maschinen werden über NVIDIA Infra Controller (NICo) bereitgestellt, den einzigen derzeit unterstützten Infrastruktur-Provider — ein Preview-Hinweis, der auch heißt: vorerst nur Nvidias eigene Hardware. Knoten weisen sich über SPIFFE/SPIRE mit TPM-Attestierung aus, bevor sie Join-Credentials erhalten; etcd-Verschlüsselung ist pro Cluster optional. Ein Begleitprojekt namens NVKR baut und signiert Node-Images und Komponenten aus gepinnten Inputs, damit das, was deployt wird, nachvollziehbar bleibt. Aus dem Quellcode baut das Projekt neun Binaries, darunter agent, controller, nvkectl, management-engine, tenant-api und operator-api.

Zum Ausprobieren reicht ein Linux-Host mit sechs CPUs, 12 GiB freiem Speicher und 100 GiB Plattenplatz, Docker und virtuellem TPM — auf macOS über eine Colima-VM. Man kann also eine simulierte Management-Plane samt Workload-Cluster hochziehen, ohne eine einzige GPU zu besitzen.

Die Stellen, an denen es ehrlich wird

Die Liste der Einschränkungen ist ungewöhnlich offen und lesenswert. Nach der Installation ist die API-Authentifizierung aus und die API spricht einfaches HTTP — wer sie erreichbar macht, bevor er Authentifizierung konfiguriert, hat ein offenes Steuerpult. Der Management-Cluster skaliert, aktualisiert oder ersetzt sich nicht selbst. Es gibt kein Verfahren für ein Upgrade der Management-Plane und keines für Backup und Restore. Die Full-Disk-Encryption-Images dienen der Evaluation und bieten keine Vertraulichkeit der Daten im Ruhezustand. Die APIs können sich zwischen Releases ändern.

Das ist keine Marketing-Literatur, das ist eine Bauanleitung mit ehrlichen Warnhinweisen — und es sagt etwas darüber, wie weit das Projekt ist: funktionsfähig, aber ohne die undankbare Arbeit, die aus einer Demo ein Produkt macht.

Warum Nvidia das tut

Nvidia verkauft die Maschinen. Wer aber eine GPU-Cloud betreibt, braucht zwanzig weitere Entscheidungen: Wie werden Knoten in Besitz genommen, wie werden sie partitioniert, wie bekommt ein Mieter einen Cluster statt einer Karte, wie wird abgerechnet, wie wird ein Knoten ersetzt, der um 3 Uhr nachts stirbt. Bislang beantwortete das jeder Betreiber selbst oder kaufte die Antwort von VMware, Red Hat oder einem der Konkurrenten im Kubernetes-Management. NVKE ist Nvidias Angebot, diese Antwort selbst zu liefern — und damit der Standard zu sein, nach dem Nvidias eigene Hardware aufgeteilt wird.

Das ist keine Nebensache. Die KI-Infrastruktur wird derzeit in riesigen, schnell gebauten Hallen errichtet, oft von Betreibern, die vor zwei Jahren noch etwas anderes taten. Wer ihnen ein funktionierendes Verwaltungswerkzeug mitgibt, prägt die Betriebsstruktur für Jahre. Nvidias Übernahme von Run:ai, das inzwischen vollständig als Open Source unter Apache 2.0 vorliegt, zeigt in dieselbe Richtung: Die Software-Schicht über den GPUs soll offen, kostenlos und von Nvidia geprägt sein.

Der Haken

Nvidias Wohlwollen ist nicht dasselbe wie Offenheit. Der einzige unterstützte Infrastruktur-Provider ist NICo, also Nvidias eigener Controller. Ein Betreiber, der NVKE einsetzt, automatisiert seine Maschinen mit Nvidias Werkzeug — was hervorragend funktioniert, solange die Maschinen von Nvidia kommen. Das ist ein Standardsetzungsmanöver, das sich als Dienstbarkeit ausgibt, und es ist genau die Art Manöver, die in dieser Branche seit Jahren funktioniert.

Und es ist ein Preview. Keine Authentifizierung, kein Upgrade-Pfad, keine Backup-Prozedur: Das sind nicht die Lücken, die man in einer Roadmap schließt, sondern die, die man schließt, wenn Kunden anfangen zu zahlen. Wer heute auf NVKE baut, baut auf einer Absichtserklärung mit lauffähigem Code.

Worauf zu achten ist

Ob weitere Infrastruktur-Provider neben NICo unterstützt werden — das entscheidet, ob NVKE ein Nvidia-Produkt oder eine Plattform wird; ob die Management-Plane ein Upgrade- und Backup-Verfahren bekommt, bevor jemand sie in Produktion nimmt; ob Authentifizierung zum Standard statt zur Aufgabe wird; und ob die großen GPU-Vermieter das annehmen oder weiter ihre eigenen Werkzeuge bauen. Die Sterne auf GitHub sind dabei der uninteressanteste Indikator — die Zahl, auf die es ankommt, ist die der Cluster, die in zwölf Monaten tatsächlich damit betrieben werden.