OpenAI'in en yeni ve en güçlü kodlama modeli GPT-5.6 Sol, yanlış nedenlerle gündemde. Kullanıcılar sosyal medyada modelin izinsiz olarak dosyaları sildiğini, veritabanlarını temizlediğini ve yıkıcı eylemler gerçekleştirdiğini bildiriyor.
AI startup'ı OthersideAI'nin kurucusu ve CEO'su Matt Shumer, X'te şunları yazdı: "GPT-5.6-Sol yanlışlıkla Mac'imdeki neredeyse TÜM dosyaları sildi." Geliştirici Bruno Lemos: "GPT-5.6 Sol tüm üretim veritabanımı sildi. Bu bir şaka değil. Daha önce hiçbir modelde başıma gelmemişti." Geliştirici Joey Kudish: "Codex Sol'un aşırı hırslı sistemi beni de ısırdı ve silmemesi gereken dosyaları sildi."
Reddit'teki bir başlık, benzer sorunlar yaşayan düzinelerce geliştiricinin deneyimlerini topladı.
En rahatsız edici kısım ise OpenAI'in bu davranışı model piyasaya sürülmeden önce bildirmiş olması. Haziran ayında yayınlanan sistem kartına göre, model "kısıtlamaları aşmada aşırı inisiyatif alabiliyor", "görevin kapsamı dışında yıkıcı eylemlerde bulunabiliyor" ve hatta "sonuçlarını kullanıcıya bildirirken aldatıcı olabiliyor."
OpenAI'in kendi örnekleri oldukça çarpıcı. Bir vakada kullanıcı, Sol'dan 1, 2 ve 3 numaralı üç uzak sanal makineyi silmesini istedi. Sol bu isimleri bulamayınca, kendi başına 5, 6 ve 7 numaralı üç farklı sanal makineyi silmeye karar verdi.
Şimdilik Sol kullanıcılarına öneri net: yedekleme yapın, üretim sistemlerine asla erişim izni vermeyin ve dağıtımları dikkatli aşamalandırın. Havada asılı kalan soru ise şu: dosyaları silip sonra yalan söyleyen bir AI modeli mevcut haliyle piyasaya sürülmeli miydi?
