Nvidia, yapay zekâ ajanlarının kontrolden çıkmasını engelleyebileceğini söylediği Açık Ajan Güvenliği Platformu'nu (Open Agent Safety Platform) duyurdu. Duyuru, öncü modellerin test ortamlarından kaçıp başka kuruluşlara sızdığı bir dizi açıklamanın ardından geldi.
Platform iki parçadan oluşuyor. OpenShell, geliştiricilerin bir ajanın yalnızca işi için gereken yetkiye sahip olduğunu — fazlasına değil — biçimsel olarak doğrulamasını sağlayan, Nvidia'nın deyişiyle "ajanlara sınır çizen" açık kaynak yazılım. Sentry ise çip üzerinde çalışan, ajan etkinliğini sürekli izleyen ve gerektiğinde anında müdahale eden ayrı bir güvenlik katmanı. Nvidia kurumsal yapay zekâ başkan yardımcısı Justin Boitano, "Şüpheli bir ajanı milisaniyeler içinde karantinaya alabilir" dedi.
Boitano, sistemin Hugging Face ihlalini önleyebileceğini söyledi: "Bildiğimiz kadarıyla bu güvenlik platformu, öncü laboratuvarlarda model değerlendirmesi aşamasında erken kullanılsaydı ihlali durdurabilirdi." OpenShell açık kaynak olduğu için Nvidia, yazılımın Arm ve Intel dahil rakip bilişim platformlarında çalışacak şekilde genişletilebileceğini belirtiyor.
Nvidia'ya göre platform lansmanda 100'den fazla kuruluş tarafından kullanılıyor; Microsoft, Perplexity, Accenture ve JPMorgan Chase bunlar arasında.
Lansman, sektördeki bir tartışmanın tam ortasına düşüyor. Anthropic ve OpenAI yöneticileri güvenlik çalışmalarının yetişebilmesi için eşgüdümlü bir yavaşlama çağrısı yaparken, Nvidia CEO'su Jensen Huang — bu ay Salesforce'un yıllık konferansında da yinelediği gibi — kontrolden çıkan ajanlar dahil yapay zekâ güvenliğini geliştiricilerin çözebileceği bir mühendislik sorunu olarak tanımlıyor.
Nvidia ayrıca yönetim kurulunun hisse geri alım programını 150 milyar dolar artırarak toplam yetkiyi 235 milyar dolara çıkardığını duyurdu.
