Mantar sezonu tüm hızıyla sürüyor ve giderek daha fazla uygulama ile yapay zekâ sohbet botu, toplanan mantarları tanımlamayı vaat ediyor. heise online'a konuşan bir uzman, bu araçlara güvenmeye karşı sert biçimde uyarıyor: uygulamalar ve modeller, zehirli türleri yenilebilir olanlarla karıştırdıklarında bile kendinden emin yanıt veriyor — mantar tanımlamada yanlış bir yanıt ise ölümcül olabiliyor.
Uyarı varsayımsal değil. Polonyalı bir yazılım geliştiricisinin yakın tarihli deneyinde birkaç dil modeli mantar tanımladı ve heise'in haberine göre ölümcül olabilecek hatalar seyrek değil. Asıl endişe verici olan hata biçimi: Sistemler, konunun dışına çıktıklarında yanıt vermeyi reddetmiyor ya da temkinli davranmıyor — yani uzmanlığı olmayan bir toplayıcının en az yapabileceği değerlendirme tam da bu.
Haber, uygulamaların son karar mercii olarak değil bir başvuru kaynağı olarak daha faydalı olduğunu ve ikinci bir denemenin bazen ilkinde çıkmayan bir uyarı ürettiğini aktarıyor. Uzmanların pratik tavsiyesi değişmiyor: Şüphede kalındığında konuyu bilen birine sorun ve yalnızca yazılımın tanımladığı bir mantarı asla yemeyin.
Olgu daha geniş bir örüntüye oturuyor: Yapay zekâ asistanları, hatanın yanlış yanıt değil bir güvenlik olayı anlamına geldiği alanlarda — sağlık sorularından mantar toplamaya kadar — devreye giriyor ve her durumda aynı özgüvenle konuşuyor.
