Diogo Almeida, ChatGPT'i olusturmaya yardimci oldu ve insan geri bildiriminden guclendirmeyi (RLHF) icat etti — mevcut yapay zeka caginin en cok sorumlu olan egitim teknigi. Ancak temel bir uyumsuzluk olarak gordugu seyden hayal kirikligina ugradi: dil modelleri insan diline gore optimize edilmisken bilgisayarlar tamamen farkli bir dil konusuyor.
OpenAI'dan ayrilip TypeSafe AI'yi kurduktan iki yil sonra Almeida bu hafta Jev'i yayinladi — acikca buyuk bir dil modeli (LLM) olmadigini belirten transformator tabanli bir model. Metin cikarmiyor. Bunun yerine kalibre edilmis olasilik skorlari uretiyor — sirketin "kalibre edilmis kararlar" olarak adlandirdigi sey. Kullanicilar cikti kategorilerini onceden tanimlar, bu da modelin tanim geregi hallusinasyon yapamayacagi anlamina gelir.
Sonuclar gelistiricilerin dikkatini cekiyor. Vercel muhendisi Pranit Sharma, OpenAI'nin ChatGPT Luna 5.6'sini Jev ile degistirdiginde komut guvenlik siniflandiricisi icin sonuclarin 5 ila 18 kat daha hizli ve daha dogru oldugunu raporladi. Bryo AI CTO'su Nikhil Mudholkar, e-posta siniflandirmada Jev'in Gemini'den 10 ila 20 kat daha ucuz bulurken, gercek olasilik skorlarini "otomasyon is akislari icin ideal" olarak ovdu.
Metin cikisini tamamen atlayarak Jev radikal bir maliyet indirimi elde ediyor: cikis tokenlari ucretsiz ve giris tokenlari milyon yerine milyarlarca olculecek sekilde fiyatlandiriliyor. Lansman sirasinda talep o kadar yuksekti ki TypeSafe API kullanicilarina hizmet verme yetenegini kisa sureli kaybetti.
Model, 19. yuzyil ekonomisti William Stanley Jevons'un onuruna adlandirildi; Jevons paradoksu, hammadde maliyetlerinin dusmesinin artan kullanimla sonuclandigini aciklar. Almeida'nin tezi, zekayi radikal sekilde ucuzlatmanin, yazilim sistemleri genelinde yaygin deploy edilmesine yol acacagi yonunde — "simdi insa etmeye calistiklari mega uygulamalardan cok daha erken internet'e benzer."
Jev, Almeida'nin "kalibre edilmis kararlardan guclendirme ogrenme" olarak adlandirdigi teknikle tamamen sentetik veri uzerinde egitiliyor. Sentetik veri yaklasimini "hayatimda yaptigim en iyi bahislerden biri — lansmanimizdan daha iyi, RLHF'den daha iyi" olarak tanimladi.
Siniflandirma ve yonlendirme gorevlerinde LLM'leri degistirmenin otesinde, Jev onlari da guclendirebilir — ajan izlerini izleyerek, jailbreak'leri onleyerek ve bir is yukunun belirli bir modele ihtiyac duyup duymadigini tahmin eden bir model yonlendirici olarak hizmet verebilir. Earendil'in CTO'su Armin Ronacher, Jev'in bazi hallusinasyon risklerini kullaniciya devretse de (guven skorlarini yorumlamasi gereken), dusuk maliyetinin gercek zamanli model siralamasini ilk kez mumkun kildigini not etti.
