İsviçreli gizlilik şirketi Proton'un CEO'su Andy Yen, cuma günü personel toplantısında şirketin neredeyse tamamını kapsayan bir "yeniden mülakat" turunu iptal ettiğini açıkladı. Görüşmelerde çalışanların yapay zekâyı ne kadar kullandığı ölçülecekti ve personel bunun işlerine mal olabileceğini düşünüyordu. Geri adım, 404 Media'nın Yen'in şirketi yapay zekâ etrafında yeniden kurma çabasına dair araştırmasının yayımlanmasından bir gün sonra geldi. Haberi yazan Joseph Cox, altı mevcut çalışana ve toplantının yaklaşık iki saatlik ses kaydına dayanıyor.
Sırası şöyle: 26 Ekim'de Proton, seçilmiş çalışanlarla yeniden görüşüleceğini duyurdu; görüşmeler 4 Kasım'da başlayacaktı. Görüşmeciler, kendi yapay zekâ kullanımları yüksek olduğu için seçilmiş yöneticilerdi. Cuma günkü toplantıda Yen, yönetimin ve vakıf kurulunun konuyu görüştüğünü söyledi. "Yeniden mülakatları fiilen iptal etmeye karar verdik" dedi. "Neden? Sanırım, diyelim ki istemeden, amaçlarına zaten ulaştılar." Kastettiği şuydu: insanlar artık yapay zekâyı konuşuyor.
Araştırmanın ortaya çıkardıkları daha rahatsız ediciydi. Şirketin güvenlik Slack kanalında bir çalışan, yeni yazılan kodun canlıya alınmadan önce en az birkaç gün sızma testinden geçmesini istedi. Yen'in ağustos sonundaki yanıtı: "Bu saçmalık ve ezik düşüncesi. Elbette hızlı ve güvenli olmak mümkün." Ardından ekledi: "Sürekli nasıl daha yavaş olunur diye düşünmeyi bırakın, nasıl daha hızlı olunur ona odaklanın" ve "tüm kodumuzu sevgiyle elle işlemeyi bırakın, daha fazla yapay zekâ kullanın."
Bir de CTO Bart Butler'ın cuma öğleden sonra Slack'e attığı üç sayfalık yapay zekâ manifestosu vardı. Mühendislere "eski işiniz gitti" diyor, yapay zekâyı benimsememeyi "misyonun başarısına yönelik varoluşsal bir tehdit" olarak tanımlıyordu. 404 Media'nın ses kaydına dayanan aktarımına göre Butler toplantıda, ekim ayında şirketin kodunun yüzde 90'ını yapay zekânın yazdığını, bunun çoğunun Claude ile yapıldığını söyledi.
Yen toplantıda bir hatayı kabul etti ama yönü kabul etmedi. "Şahsen, kendi adıma bir iletişim hatası olduğunu kabul etmek istiyorum; birçok şey farklı iletilmeliydi ve iletilebilirdi, bunu düşünüp zamanla geliştirmem gerekiyor. Bunu yapacağım." Birkaç dakika sonra: "Peki bu ileriye dönük ne demek? İleriye dönük, ben yine de baskı yapmaya devam edeceğim."
Proton'a sahip olan vakıf kurulu — mütevelli heyetinde Yen'in yanı sıra Sir Tim Berners-Lee, Carissa Véliz, Dingchao Lu ve Antonio Gambardella var — durumu "yakından izliyor", dedi Yen. "Organizasyon değişiklikleri" olacak, gelecek ay "yetenek ekipler arasında yeniden dağıtılacak", "ama yapay zekâ nedeniyle iş kaybı olmayacak".
Çalışanların çoğu için ölçüm ortadan kalkmadı, yeri değişti. Bir çalışan 404 Media'ya, aynı nefeste yönetimin yapay zekâyı zorlamaya devam edeceğini ve yeniden mülakatlarda ölçülmesi planlanan şeylerin performans değerlendirmelerinin bir bileşeni olacağını söylediğini aktardı. Bir başkası: "Şu an her şey hasar kontrolü olduğuyla tutarlı görünüyor." Bazı çalışanlar konunun ele alınışından memnun olduklarını söyledi; bazıları ise gerçek bir hesap verebilirlik beklediklerini, Yen'in Proton hisselerinin çoğunluğuna sahip olduğunu hatırlattı.
Butler toplantıda, yapay zekâyı "etkili ve pragmatik" kullanmanın güvenlikten, iyi mimariden ya da sağlam yazılım mühendisliği ilkelerinden vazgeçmek anlamına gelmediğini söyledi. Ardından bir çalışanın sözüne yanıt olarak: "Sıçtık, sıçtığımızı biliyoruz."
Kamuoyu zararı onarılmış değil. Araştırma yayımlandıktan sonra Yen Reddit'te yanıt verdi; yanıtı 1.200'den fazla kez aşağı oylandı. Sosyal medyada kullanıcılar ücretli Proton aboneliklerini iptal ettiklerini söyledi ve istifasını istedi. Proton yorum talebine yanıt vermedi.
Bu kalıp Proton'a özgü değil: bir şirket yapay zekâ kullanımını performans normu yapıyor, personel direniyor, yönetim en keskin aracı geri çekip hedefi koruyor. Satış vaadi gizlilik ve güvenlik olan bir şirkette ise bu, iç siyasetten daha uzun ömürlü bir soruya dönüşüyor: kod makineler tarafından daha hızlı ve daha büyük hacimde üretiliyorsa, iki yıl sonra ortaya çıkacak açığın hesabını kim veriyor?
