Nvidia, kendi Kubernetes motoru NVKE'nin önizleme sürümünü GitHub'da Apache-2.0 lisansıyla yayımladı. Vaadi yalın: GPU veri merkezi işletenler, Kubernetes'i AWS'in EKS'i sattığı gibi yönetilen hizmet olarak satabilmeli — altında da Nvidia'nın yığını olmalı.
Mimari olarak NVKE, istek üzerine çıplak metal sunucularda yalıtılmış iş yükü kümeleri oluşturan bir yönetim kümesi. Her kiracı kümesi kendi kontrol düzlemini, kendi etcd'sini ve kendi düğüm havuzlarını alıyor; kontrol düzlemi yönetim kümesi içinde pod olarak değil, kendine ayrılmış sunucularda çalışıyor. İşletmeciler düğüm havuzlarını `nvkectl` adlı komut satırı aracıyla ya da NVKE'nin REST API'si üzerinden ölçekliyor ve Kubernetes yükseltmelerini uyguluyor.
Kaynak sağlama zinciri bilinçli olarak GPU'dan habersiz: NVKE sunucuları GPU ve fabric yazılımı olmadan veriyor; sürücüleri, konteyner araç setini ve device plugin'i sonradan Nvidia'nın GPU Operator'ü, AI Cluster Runtime tariflerini izleyerek kuruyor. Yeni kümeler ağ eklentisi olarak ovn-kubernetes alıyor; Calico yalnızca mevcut kurulumlar için yaşıyor. Yüksek erişilebilir kontrol düzlemleri sanal bir IP gerektiriyor ve NVKE bunu kube-vip ile kuruyor — olmadan Kubernetes API'sine yalnızca ilk kontrol düzlemi düğümünün adresinden ulaşılabiliyor.
Önizlemenin güvenlik duruşu, dikkatle okunması gereken kısım. API, her yönetim düğümünün 30080 portunda şifrelenmemiş HTTP ile istek kabul ediyor; önüne TLS koymak işletmecinin işi. Nvidia yalnızca gerekli ağları açmayı ve kimlik doğrulamayı işletmecinin kendi kimlik sağlayıcısı üzerinden JWT ile açmayı öneriyor — ve ardından yetkilendirmenin hâlâ eksik olduğunu not ediyor: Kabul edilen her çağrı sahibi bütün iş yükü kümelerini oluşturabilir ve silebilir. Yedekleme, geri yükleme ve bir NVKE sürümünden sonrakine geçiş için belgelenmiş bir yol da önizlemede yok.
Yönetim kümesinin kendisi, TPM 2.0 bulunan tek sayıda sunucudan oluşuyor — bir, üç veya beş — ve her biri hem kontrol düzlemi düğümü hem yönetim düzleminin barındırıcısı. Kendini yönetmiyor: Kendi düğümlerini güncellemiyor, ölçeklemiyor veya değiştirmiyor.
NVKE aynı zamanda Nvidia'nın altyapı yığınına sıkı sıkıya bağlı. Varsayılan olarak sunucuları, kendisi de en az üç düğüm isteyen bir Kubernetes uygulaması olan Nvidia Infra Controller (NICo) üzerinden alıyor — yani gerçek donanımda bir kurulum, üst üste iki yönetim katmanı çalıştırıyor. NICo varsayılan yapılandırmada kiracıları BlueField DPU'larıyla yalıtıyor; düğümler kimliklerini TPM'lerine karşı SPIFFE/SPIRE ile kanıtlıyor. Düğüm imajları ve bileşenler kardeş proje Nvidia Kubernetes Recipes'ten geliyor. Hedef kitle, donanımını zaten NICo ile yöneten Nvidia Cloud Partner'ları ve büyük GPU işletmecileri.
Bu, kaçınılmaz karşılaştırmayı getiriyor. Gardener ve Kamaji müşteri kontrol düzlemlerini bugün merkezi bir küme içinde pod olarak çalıştırıyor ve arkalarında yıllarca üretim kullanımı var; Nvidia ise daha pahalı olan adanmış kontrol düzlemi sunucuları yolunu seçiyor. NVKE'nin onlarda olmayan teklifi entegrasyon: DPU ile kiracı yalıtımı, TPM kanıtlaması, GPU Operator ve AI Cluster Runtime baştan bağlı — ve bunu GPU yığınını tanımlayan üretici sunuyor.
Bağlanmadan önce bakmak isteyenler için yerel bir hızlı başlangıç var: Sahte bir NICo, iş yükü kümesinin her düğümünü Docker konteyneri olarak başlatıyor. En az altı CPU, 12 GB boş RAM, 100 GB disk, Docker ve sanal TPM desteği olan bir Linux makinesi gerekiyor; macOS'ta değerlendirme bir Colima sanal makinesinde çalışıyor. Nvidia üretime hazır sürüm için tarih vermiyor.
Dikkat çekici olan sıralama. Nvidia, GPU bulutlarının yönetim katmanını, pazarın bu katmanı bir çip üreticisinden almak isteyip istemediğine karar vermesinden önce inşa ediyor. Önizleme bu soruyu yanıtlamıyor — yalnızca Nvidia'nın onu sormaya niyetli olduğunu açık ediyor.
