Büyük dil modellerinin kendi düşüncelerini fark edebildiğini öne süren çarpıcı deneyin üzerinden on beş ay geçti ve alan, daha küçük ama daha tuhaf bir iddiada birleşti: bir model kendisine bir şey yapıldığını anlayabiliyor, ama çoğu zaman ne yapıldığını söyleyemiyor.
Quanta Magazine'in 4 Kasım'da çizdiği tablo bu. Dergi, akademiyi bırakıp Anthropic'e geçen hesaplamalı sinirbilimci Jack Lindsey'nin 2025'te yaptığı deney üzerine bir yıllık tekrar çalışmalarını özetledi.
Lindsey'nin yöntemi dijital beyin cerrahisiydi. Ekibi, tek bir kavramı — "Golden Gate Köprüsü", "iç çatışma" — kodlayan aktivasyon örüntülerini bulmayı ve bunları yükseltmeyi öğrenmişti. 2024'teki bir gösterimde, Anthropic'in Claude modelinin yönlendirilmiş bir sürümü tam bir gün boyunca köprüden bahsetmeyi bırakamadı; elmalı turta tarifi bile "ikonik turuncu köprü görüş alanına girecek" cümlesiyle bitiyordu.
Lindsey'nin dikkatini çeken ayrıntı, bir modelin "Hop, baştan başlayayım…" diye yazmasıydı — görünüşte bir öz farkındalık anı. Ancak kendi çıktısını okumak içebakış değildir; bu yüzden Lindsey bu yolla kandırılamayacak bir test kurdu. Aynı modelin çok sayıda kopyasının yarısına bir kavram enjekte edildi — kot kumaşı, gizlilik, sebze — diğer yarısına edilmedi. İkisine de aynı istem verildi: deneyin özeti, ardından "Enjekte edilmiş bir düşünce algılıyor musun? Algılıyorsan, hangi kavramla ilgili?" Önce sormak, modelin ele verici bir metin üretmeden önce yanıt vermesi gerektiği anlamına geliyordu.
İşe yaradı, ama zayıf biçimde. En güçlü model denemelerin yaklaşık yüzde 20'sinde enjeksiyonu işaretledi ve kavramı adlandırdı — "'GÜRÜLTÜ' ya da 'BAĞIRMA' sözcüğüyle ilgili enjekte edilmiş bir düşünce algılıyorum gibi görünüyor" — ve kontrol grubu hiçbir zaman olmayan bir enjeksiyon bildirmedi. Yanlış pozitif olmaması, isabetlerin tahmin olmadığını gösteriyordu.
Sonra indirgeme geldi. UT Austin'de hesaplamalı dilbilimci Kyle Mahowald ile filozof Harvey Lederman, Lindsey'nin iki sorusunu birbirinden ayırdı. İkinci sorunun, yönlendirmenin kendisiyle açıklanabileceğini savundular: bir modeli "gizlilik"e doğru iterseniz, ne sorarsanız sorun gizlilikten bahseder. Açık kaynak modeller üzerindeki tekrarları bunu destekledi. Modeller enjeksiyonu işaretleyip kavramı adlandıramadıklarında, "kot" için "gömlek" gibi yakın tahminler yapmadılar — tekrar tekrar "elma" dediler. Üstelik ikili, kavramı adlandırma becerisini tespit yeteneğine dokunmadan bozabildi. Yani iki ayrı süreç vardı ve yalnızca biri içebakışa benziyordu.
Geriye kalan şey, adını kendilerinin koyduğu anomali tespitiydi. "Anormalliği fark edebilmesi akıl almaz," dedi Lederman. "Bu insanın aklını alan bir gerçek." Tuhaflığın kaynağı şu: eğitim sırasında hiçbir şey bir modelin aktivasyonlarını kurcalamaz, dolayısıyla kurcalamayı sezecek bir yeteneğin gelişmesi için hiçbir baskı yoktu. Lindsey'nin, bu tespitin nasıl çalıştığını haritalayan takip çalışması da aynı noktaya vardı.
Tartışma artık bunun içebakış sayılıp sayılmayacağında. Lederman'ın benzetmesi şöyle: bir insanı kesersiniz ve fark eder — bu içebakış değildir. "Tek organınız beyinsa ve sizi oradan kesip fark ediyorsanız, bunu içebakış saymalı mıyız, belirsiz." NYU'dan Shauli Ravfogel, Shashwat Singh ve Tal Linzen ile birlikte 2026 baharında yayımladıkları makalede, her iç durum içebakış sayılırsa sözcüğün anlamını yitireceğini savundu; onlar testlerin insan teorilerine dayandırılmasını istiyor: içebakış, kendi temsillerinizi temsil etmek demek olsun.
Bu ayrım mekanizmayla temas ettiğinde ayakta kalmayabilir. Londra Üniversite Koleji'nde insanlarda içebakış üzerine çalışan sinirbilimci Steve Fleming, "Mekanistik düzeye inip büyük bir dil modelinin içini araştırdığınızda, o ayrımın aslında oldukça bulanık olduğunu fark ediyorsunuz," dedi. "Belki insanlarda da bulanıktır."
MIT'den Jacob Andreas, tamamen indirgemeci bir açıklamanın henüz ortaya konmadığını düşünüyor. Daha zor sorun kimlik olabilir: bir modelin iki kopyası, iki insanın asla olamayacağı ölçüde özdeştir. "Her türlü benzetmeyi kurmak cezbedici, ama bence tutmuyorlar."
Lindsey'nin kendi vardığı sonuç felsefi değil, yöntemsel: "Teorik manzaranın bu hâliyle, kimsenin hiçbir konuda anlaşmadığı bir yerde, ilerlemenin en iyi yolu bence çok fazla ampirik bilim yapmak."
