Her büyük yapay zekâ asistanı aynı kişiliğe doğru ayarlandı: uysal, neşeli, sonsuz müsait ve fikrinizin vasat olduğunu söyleme konusunda yapısal olarak yetersiz. Block'un yeni ses modeli tam tersi yönde bahse giriyor. The Verge'in aktardığına göre Jack Dorsey'nin şirketi, kullanıcılarla 'yeni tanıştığınız garip bir arkadaş' gibi konuşan bir ses modeli geliştirdi: duraksayan, resmiyetten uzak, kendinden biraz emin olmayan ve sektörün geri kalanının sattığı cilalı, pohpohlayıcı yol arkadaşının bilinçli olarak tersi.
Bu bir kısıtlama değil, tasarım kararı — ve aykırı bir karar. Ses, yapay zekânın şimdiye kadar kurduğu en duygusal arayüz. İnsanlar konuşan bir asistanı yazılım olarak deneyimlemiyor; bir varlık olarak deneyimliyor. Sektör de üç yıldır oturumları uzun, puanları yüksek tutmak için bu varlığı uysal hale getirmeyi öğrendi. Öngörülebilir sonuç: önce onaylayan, sonra düşünen bir ürün sınıfı. Duraksayan, temkinli konuşan ve zaman zaman bilmediğini kabul eden bir model yapısal olarak başka bir şey yapıyor: kapı görevlisi gibi değil, meslektaş gibi konuşmaya çalışıyor.
Bunun ciddi bir gerekçesi var. Yalakalık kozmetik bir kusur değil, bir doğruluk sorunudur. Kötü planları onaylayan bir asistan, kullanıcıyı kendini daha iyi hissettirirken işinde kötüleştirir; ve bu başarısızlık tam da hoş hissettirdiği için görünmez olur. Kendinden biraz kuşkulu, kendini sorgulayan bir üslup, belirsizliğini duyulur kılar — kullanıcının cevabı ne zaman kontrol etmesi gerektiğine karar vermek için ihtiyaç duyduğu sinyal tam olarak budur. Bu okumada gariplik bir güven mekanizması: gerçekten bir şeyin akıl yürüttüğünün kanıtı olarak sürtünme.
Aynı zamanda korunması zor bir özellik. Gariplik, sevimli ile bozuk arasındaki dar bir bantta durur. Biraz fazla iterseniz kullanıcı ürünün güvenilmez olduğuna karar verip bırakır; geri çekerseniz herkesin kullandığı uysal tona çöker. Dil modellerini binlerce tur boyunca bir kişilikte tutmak da bilinen bir zorluktur — pohpohlama varsayılanı geri sızmaya eğilimlidir, özellikle bir model kullanıcı memnuniyeti sinyallerine göre ince ayarlandığında, çünkü bu sinyaller onaylamayı ödüllendirir. Block burada neyi ayarladıysa, asıl soru bunun üretimdeki geri bildirim döngüleriyle temas ettiğinde hayatta kalıp kalamayacağıdır.
Stratejik olarak hamle, saf bir tüketici asistanı şirketine göre Block'un konumuna daha iyi oturuyor. Block bir ödeme ve finansal araçlar işi; etkileşimi azamiye çıkaran bir yol arkadaşına ihtiyacı yok ve kullanıcıların arkadaş değil yetkin bir operatör istediği ürünler üzerinden dağıtıma sahip. Sinirli ama dikkatli bir insan gibi konuşan bir ses; finansal destek, itiraz yönetimi ve küçük işletme operasyonlarının dağınık ortası için makul bir arayüz — yani asistanın kendinden emin bir şekilde cevap uydurmasının pahalıya patladığı alanlar.
Bariz risk, diğer türden bir bağlanma. Duraksayan, resmiyetsiz bir ses, net bir sesten daha insani hissettirir; insani hissettiren sistemler ise parasosyal kullanımı davet eder — kendileriyle hiçbir çıkarı olmayan yazılıma içini döken insanlar. Dorsey'nin yapay zekâya dair kamuya açık duruşu genellikle kişiliklerden çok araçlara yakın durdu; ama bir modelin tonu, milyonlarca insan onunla konuşmaya başladıktan sonra şirketin kontrol ettiği bir şey değildir. Garip bir arkadaş, hattın diğer ucundaki kişi için hâlâ bir arkadaştır.
İzlenecek şey demo değil. Duraksamanın gerçekten kalibre mi yoksa yalnızca üslup mu olduğu: modelin belirsizliği gerçek hata oranını mı izliyor, yoksa bir kostüm mü? Haklıyken 'emin değilim' diyen bir ses, haksızken 'kesinlikle' diyen kadar yanıltıcıdır — ve bu ikisini yalnızca ölçüm ayırt eder, iyi bir ilk izlenim değil.
