Yapay zekânın yapay zekâyı geliştirmesine dair haberler genellikle eğitim koşularıyla ilgilidir: daha fazla veri, daha fazla hızlandırıcı, bir gradyan adımı daha. Pazartesi yayımlanan bir blog yazısı ise daha tuhaf bir şey anlatıyor. Araştırmacılar bir frontier dil modeline başka sinir ağlarının ham ağırlıklarını — yani sayıların kendisini, gradyan yok, eğitim döngüsü yok — verip bu ağların ne yaptığını bulmasını, ardından onları yeniden yazmasını istedi.

Rikiya Takehi, Jayden Teoh, Alex Zhang ve Omar Khattab'dan oluşan ekip bu yaklaşıma "Ağırlık Uzayı Programlama" diyor. Ortada hakem denetiminden geçmiş bir makale değil, günlükleri ve bir kamuya açık modeli yayımlanmış bir blog yazısı var; yanında da bunun göründüğü kadarını kanıtlamadığını savunan ayrıntılı bir eleştiri. İkisi de okunmaya değer.

Ağırlıkları okumak

Aynı mimariye sahip dört PPO ajanı — 500→32→32→5 bir MLP, 17.253 ağırlık — dört farklı ızgara oyununda eğitildi. Astra'ya ağırlık metni, ızgara ve beş eylemin tanımı verildi; oyun adları da seçenek listesi de verilmedi. Dördü için de doğru oyunu söyledi. Ayrıca üç küçük difüzyon modelinin yalnızca ağırlıklarına bakarak hangi şekli ürettiğini buldu ve 7,2 milyon parametreli karakter modellerinin yalnızca ortadaki dört transformer bloğu verildiğinde (giriş ve çıkış katmanları çıkarılmış) üçünün de eğitim dilini doğru adlandırdı, üstelik her kopyalama (indüksiyon) kafasını hatasız işaretledi — ağları çalıştırarak ölçülen gerçek değerlerle birebir.

Ağırlık yazmak

Üç MinAtar oyununun kuralları ve kaynak kodu ile sıfırdan başlatılmış ağırlıklar verildiğinde Astra, tek yanıtta 100 milyon adım eğitilmiş PPO'yu üç oyunda da geçen ağlar yazdı. Breakout'ta 517,4 puana karşı PPO'nun 15,8'i. 9×9 Go'da, Go kütüphanesi olmayan bir Python ortamında, 336 satır kurulum koduyla 1,48 milyon parametreli bir ağ yazdı: hiç ileri geçiş yapmadan iki küçük PPO ağına karşı oyunların yarısından fazlasını kazandı; 50 ileri geçişle 20 milyon oyunla eğitilmiş aynı boyuttaki PPO ağını geçti.

Ağırlıkları düzeltmek

Rampalı parkurda bir araba politikası yerel minimuma takılmış, 256 bölümde rampayı hiç aşamamıştı. Astra tek denemede ağırlıkların yüzde 3,5'ini değiştirdi; araba 1.024 değerlendirme bölümünün tamamında başarılı oldu.

Manşet sonuç ise küçük ama gerçek bir dil modelini kullanıyor. Qwen3.5-0.8B düşünme modunda fena halde döngüye giriyor: ilk 96 deneme yanıtının 85'i 32.768 token sınırına dayanmıştı. Astra döngünün kaynağını 15. ve 19. katmanlardaki MLP'lerin yazdığı bir yönde buldu ve bu yönü her birinde 64 çıkış sütunundan çıkardı: yaklaşık 800 milyon ağırlığın 131.072'si, yani yüzde 0,016'sı. Alıştırma soruları üzerinde 50 ileri geçişlik bir bütçeyle MATH-500 yüzde 7,9'dan 48,1'e, GSM8K yüzde 13,8'den 67,1'e, talimat takibi (IFEval) yüzde 21,0'den 62,3'e çıktı. MATH-500 yanıtlarında token sınırına takılma oranı yüzde 93'ten yüzde 33'e indi.

Yapamadıkları

Olumsuz sonuçlar en az olumlular kadar öğretici. Nadiren döngüye giren Gemma 3 270M'de Astra sıradan aritmetik ve cebir hataları buldu ama kapatılacak tek bir bileşen yoktu; düzenlemeleri MATH-500'ü en fazla bir puan kadar oynattı ve model bunu kendisi "kanıtlanmamış" diye niteledi. Yazının en keskin cümlesi yazarların kendi özeti: ağırlık düzenlemek bir yeteneği gizleyen engeli kaldırabiliyordu, ama modelde olmayan bir yeteneği ekleyemiyordu. Aynı görünen iki Gemma ince ayarından hangisinin yalakalaşmak için eğitildiği sorulduğunda Astra dört denemede de yalnızca ağırlıklardan bilemedi; ancak 16 istem yazıp dikkat örüntülerini incelemesine izin verilince buldu.

İtiraz

Sean Goedecke'in eleştirisi, bunların hiçbirinin insanüstü olmadığını somut biçimde savunuyor. Oyun tanıma sonucunun ilk katman ağırlıklarının normlarını hesaplamaya indirgendiğini — üç satır NumPy — ve ısı haritalarının gözle tanındığını, işin çoğunu giriş kanallarının etiketlerinin yaptığını söylüyor. Qwen düzeltmesinin ise araştırmacıların "abliteration" ve yönlendirme için zaten kullandığı tarif olduğunu: döngüye giren ve girmeyen metinler üret, farkı taşıyan ağırlıkları ölç, kırp. "Etkileyici bir numara, ama ikili dosyalarla çalışmanın en iyi yolu hâlâ kaynak kodu yazıp derlemek," diyor. "Aynı şekilde bir modelin ağırlıklarını güncellemenin en iyi yolu da onu normal biçimde eğitmektir."

İki okuma aynı anda doğru olabilir. Yetenek gerçek ve yeniden üretilebilir — her istem, yanıt, betik ve değerlendirme yayımlanan günlüklerde — yorumu ise tartışmalı. Tartışmasız olan yön: ekip bir kıyaslama seti kuruyor ve asıl soru bir modelin ağırlıkların yüzde 0,016'sını dürtebilmesi değil, bunu gösteri için değil denetim için kullanılacak kadar güvenilir yapıp yapamayacağı.

Bunun rahatsız edici bir yanı var. Ağırlıkları yerleştirilmiş bir davranışı fark edecek kadar iyi okuyabilen bir model, ağırlık da yazabilen bir modeldir. Yazının kendi çerçevesi değerlendirme yapmadan denetimi, ucuz "unlearning"i ve verisiz yetenek yönlendirmeyi listeliyor; aynı liste öbür uçtan okunduğunda, hiçbir kıyaslamanın yakalamak için tasarlanmadığı şeyleri bir modele yerleştirmenin yollarına dönüşüyor.

Kaynaklar