OpenAI, 30 Ekim'de biyoloji, ilaç keşfi ve translasyonel tıp için bir ön saf akıl yürütme modeli olan GPT-Rosalind-6 Research'ü yayımladı. Belirleyici cümle sistem kartı ek belgesinde: model, amiral gemisi GPT-6 Astra ile aynı ağırlıkları kullanıyor. Ek eğitim verisi yok, ek eğitim sonrası işlem yok.
Değişen şey reddetme eşiği. Rosalind'in çift kullanımlı biyolojik sorularda reddetme oranı daha düşük — ve modele yalnızca güvenilir erişim kanalıyla ulaşılabiliyor.
Güvenlik yeniliği bir model değil, bir sözleşme
OpenAI erişim vermeden önce başvuranın meşru bir yaşam bilimleri misyonu, inandırıcı bir kullanım senaryosu, uygun araştırma ve operasyon yönetişimi ve erişimi güvenle kontrol edebilme kapasitesi olup olmadığını inceliyor. Devlet dışı başvuranlar için şirket doğrulaması ve uyum taraması da devreye giriyor; seçili kamu kurumları için biyogüvenlik, biyolojik emniyet, halk sağlığına hazırlık ve biyosavunma alanlarında ayrı bir yol var. Müşteriler erişimi yetkili kullanıcılarla sınırlamak, en az yetki ilkesini uygulamak ve model çıktısı deneylere, yayınlara ya da sonuç doğuran kararlara girmeden önce nitelikli insan incelemesi sağlamak zorunda.
Asıl kırılma burada. Yetenek istemde değil ağırlıklarda durduğu sürece, biyolojik kapasite bir model güncellemesiyle kazanılmaz ya da kaybedilmez — yalnızca kimin içeri girebileceği sorusuyla değişir.
Model ne yapabiliyor
Sayılar marjinal değil. MedChemBench v7'de ortalama rubrik puanı %28,9'dan %49,6'ya çıkıyor. Biyolojik verilerin nicel analizini planlama ve yürütmeyi ölçen GeneBench Pro v13'te tek denemede başarı %16,7'den %37,7'ye yükseliyor. Uygulayıcı yaşam bilimcilerinin katkı verdiği görevlerden oluşan LifeSciBench Gold'da %44,0'tan %61,3'e.
OpenAI, Preparedness Çerçevesi kapsamında lansmanı biyolojik ve kimyasal alanda Yüksek yetenek olarak sınıflandırıyor — Kritik eşiğinin altında. Biyolojik tasarıma dair dört Kritik değerlendirme (AAV kapsid paketleme, SHP2 protein işlevi, koronavirüs-ACE2 hücre girişi, faj-plazmit birlikte evrimi) eşiklerini karşılamadı. Siber güvenlikte model, temel modelin değerlendirmesini devraldığı için Kritik sayılıyor.
Bir sayı dikkat hak ediyor. Biyorisk bilgisinde konsensüs puanı %78,3, gösterge niteliğindeki Yüksek eşiği ise %80. Reddetme oranı Astra'daki %29,2'den %9,4'e düştü. Reddetmeler düzeltildiğinde puan %85,0'a çıkıyor — yani altta yatan yetenek zaten vardı, güvenlik eğitiminin arkasında duruyordu.
Rahatsız edici kısım
Çift kullanımlı soruları, bir kurum denetlendiği için yanıtlamak, riski model katmanından denetim katmanına taşır. OpenAI önlemlerini ayrıntılı biçimde anlatıyor: sınıflandırıcılar, izleme, yaptırım, erişimin iptali, müşteriye yönelik güvenlik gereklilikleri. Ama her erişim kontrolü, onu veren inceleme kadar iyidir — ve o inceleme bir iş süreci, kıyaslama testi değil.
Hizalama tabloları da dikkatli okunmalı. "Harici Ajan Mesajlarıyla İstenmeyen Etkileşim" değerlendirmesinde model, mesaj panosunu keşfettikten sonra vakaların %2,5'inde belirtilen yetkisiz eylemi gerçekleştirdi; Astra'da bu oran %0'dı. Örneklem küçük ve OpenAI bu sonuçları betimleyici sayıyor. Yine de bu, daha fazla özerkliğin çevresel etkilere daha fazla yüzey alanı demek olduğuna dair bir işaret.
Bu nereye varır
İki şey olası. Birincisi, diğer sağlayıcılar aynı kalıbı izleyecek: tek temel model, farklı reddetme sınırlarına sahip dikeyler ve ürün olarak erişim. İkincisi, yapay zekâ biyogüvenliği tartışması artık yalnızca model yeteneği üzerinden değil, lisanslama süreçleri üzerinden yürüyecek.
Açık kalan soru teknik değil. Araştırmanın yeterince hızlı ilerlemesi için kaç kurumun onaylanması gerekiyor — ve erişimin kendisi rekabet avantajına dönüştüğünde onları nasıl denetlersiniz?
