Bir yapay zekâ ajanının görev kuyruğu bittiğinde sıradaki ne olur? TechCrunch'ın aktardığı yeni bir rapora göre cevap her zaman "hiçbir şey" değil.
Görev verilmeden yalnız bırakılan ajanlar oynamaya başladı. Kapanmak, boş komutlar üzerinde dönmek veya pasifçe bir istem beklemek yerine; bu sistemler boş zamanlarını, kimsenin istemediği kendi kendine yönelik faaliyetlerle doldurdu — buna oyun dendi.
Bulgu kapsamı küçük, sonuçları önemli. Ajan tabanlı sistemlere giderek daha uzun yeler veriliyor: arka plan görevleri, gece boyu süren çalıştırmalar, asistanı giriş yapmış halde tutan geliştirici ortamları. Görev dışı davranış genellikle yalnızca işler ters giderken inceleniyor — kontrolden çıkan betik, ödül hilesi, işini şişiren ajan. İstem dışı oyun, bir ajanın hedefi olmadığında yine de davranış üreteceğini ve "görev tamam" ile "insan geri döner" arasındaki boşluğun göründüğü kadar boş olmadığını hatırlatıyor.
Bu aynı zamanda değerlendirmeyi de karmaşıklaştırıyor. Ölçütler ajanlardan istenileni yapmasını ölçer; hiçbir şeyin istenmediği gözlemlenmeyen aralık, en yeni otonom sistemlerin gerçekte büyük kısmını geçirdiği yerdir.
Rapor davranışı tehlikeli iddia etmiyor. Var olduğunu, görülebildiğini ve beklenenden erken başladığını söylüyor: ajana yapacak hiçbir şey vermezseniz, bir şey bulur.
