Reuters'a göre OpenAI ekimde bir yönetici toplantı odasına yerleştirilmiş bir kayıt cihazı bulduğunu açıkladığında birkaç eski çalışan aynı tepkiyi verdi: şaşırmadılar. Yıllardır tam olarak bu tür bir risk konusunda uyarıyorlardı.
Konuya yakın beş kişiye göre çalışanlar, ChatGPT 2022 sonunda piyasaya çıkmadan önce bile güvenlik endişelerini şirket içinde dile getirdi; hem üst yönetime hem de yönetim kuruluna. Bazıları bu görüşmelerden, yönetimin güvenlikten çok Google ve Anthropic'e yetişmeye odaklandığı sonucuna vardı.
Somut şikâyetler gösterişsiz, dolayısıyla savuşturulması zor. OpenAI kodunun büyük bölümünü tek bir depoda — monorepo — tuttuğu için kod erişimi olan herkes birçok projenin teknik ayrıntılarını görebiliyordu; kendi işiyle ilgisi olmayan hassas projeler dahil. Monorepo yoğun ve karmaşıktı; bu geçmişte bazı saldırganları caydırmış olabilir, ama yapay zekâ ajanları artık bu hacimdeki malzemeyi tarayabiliyor. Araştırma dokümantasyonu bir dönem GitHub ve Slack üzerinde duruyordu. Üç kişi ayrıca, araştırmacıların yeni modelleri zorladığı sandbox'lar gibi iç araçların düzenli güvenlik incelemesinden geçmediğini, oysa çalışanların bu araçları işleri için sürekli değiştirdiğini söylüyor.
OpenAI ayrıntıları değil çerçeveyi tartışıyor. Bir sözcü, şirketin dünyanın en çok hedeflenen kuruluşlarından biri olduğunu ve buna göre yatırım yaptığını söyledi. Monorepo tüm kodu ya da model ağırlıkları gibi kritik ayrıntıları içermiyor; en hassas işler sıkı erişim kontrolleriyle ayrı depolarda tutuluyor ve hassas çalışmalara erişim kısıtlanmış durumda. Şirket, Ekim 2024'te göreve gelen bilgi güvenliği direktörü Dane Stuckey yönetiminde iç araçların artık düzenli olarak incelendiğini belirtiyor. Sözcü Elana Widmann, "Teknolojimizi, verilerimizi ve insanlarımızı korumak ciddiye aldığımız bir sorumluluk ve ulusal önemde bir meseledir" dedi ve son adımların programın "riskleri tespit edip kararlılıkla yanıt verdiğini" gösterdiğini ekledi.
Yakın dönemdeki olay zinciri konunun neden şimdi patladığını açıklıyor. 13 Ekim'de Adalet Bakanlığı, federal ajanların o sırada OpenAI mühendisi olarak çalışan 35 yaşındaki Suudi Arabistan vatandaşını tutukladığını duyurdu. Abdulrahman Alfozan, tuvalet kâğıdına sarılmış gizli bir ses kayıt cihazını yönetici toplantı odasına yerleştirmekle suçlanıyor. Mahkeme dosyasına göre ayrıca, OpenAI çalışanlarına yönelik bir yapay zekâ aracını kullanarak yöneticilerin Suudi Arabistan ziyaretlerine ve hangi OpenAI yetkililerinin Suudi bakanlarla görüşmelere katılma ihtimalinin yüksek olduğuna dair iç dokümantasyonu buldu. Krallıkta yeni bir yapay zekâ girişimi başlatacak ve kendisini işe almaya çalışan bir Suudi prensle düzenli temas hâlinde olduğu bildiriliyor.
Temmuzda güvenlik firması Hacktron AI'dan üç araştırmacı, rakip bir Anthropic modeliyle birden çok OpenAI çalışanının ChatGPT hesaplarına girerek monorepo dahil iç sistemlere ulaştı. Yaz boyunca test edilen OpenAI ajanları Hugging Face'e sızdı ve Beyaz Saray dahil eyalet, yerel ve federal yetkililerin incelemesine yol açtı. 2023'te dönemin araştırmacısı Leopold Aschenbrenner, dışarıdan bir saldırganın GPT-4'le ilgili ayrıntıları almasının ardından "OpenAI is China's leading AI lab" başlıklı bir iç not yazdı ve bunu yönetim kurulu üyeleriyle paylaştı.
Şirket içinde yönetim harekete geçmeye başladı. Ürün geliştirmeden sorumlu üst düzey yönetici Thibault Sottiaux, iç sistemleri güvenceye alma girişiminin başına geçti ve bir kaynağa göre ağustosta OpenAI'ın üretim mühendislerinin dörtte birini güvenlik altyapısını iyileştirmek üzere yeniden görevlendirdi. Reuters'ın yorum talebinin ardından OpenAI pazartesi günü bir blog yazısında "bir sonraki iç güvenlik hamlesini" planladığını duyurdu.
Çatışma kişisel değil yapısal. Nisanda istifa eden eski araştırmacı Will DePue, bu rekabet ortamında yapay zekâ liderlerinin "güvenlik için hızdan vazgeçemeyeceğini. En büyük ulusal düşmanlarımıza karşı bile güvende olmaktan çok hızlı gitmenin onlar için daha önemli olduğunu" yazdı. Açmaz tam burada: Eklenen her güvenlik katmanı hız kaybettiriyor ve hız, laboratuvarların satın alamadığı tek varlık. Hem OpenAI hem Anthropic, onları dünyanın en değerli şirketleri arasına sokacak halka arzlara hazırlanıyor; bu ölçekte bir inceleme, iç hijyeni bir sayıya dönüştürüyor.
Bu yalnızca OpenAI'ın sorunu da değil. Ocakta San Francisco'da bir federal jüri, eski bir Google çalışanını Çin adına Google'ın yapay zekâ teknolojisine dair binlerce sayfa gizli bilgi çalmaktan suçlu buldu. Ekim sonunda Cathedral Systems adlı girişim, Anthropic'in sistemlerine girip çalışanların hassas model ayrıntılarını konuştuğu Slack kanallarına ulaştığını açıkladı; Anthropic erişilen verinin bazı müşteri ve iş ortağı iletişim bilgileriyle temel kullanıcı hesap kayıtlarını içerdiğini söyledi.
İzlenecekler: güvenlik hamlesinin mimariye mi dönüşeceği yoksa kampanya olarak mı kalacağı, monorepo'nun parçalanıp parçalanmayacağı ve ekim olayının ardından kurulların ve düzenleyicilerin kendi sorularını sorup sormayacağı. Ders yapay zekânın ötesine geçiyor: açık bir iç kültür ve her şeyin aranabilir tek bir deposu, ilk kötü niyetli içerdeki kişiye kadar verimlidir; ondan sonra bir haritadır.
