Jev: Metin Üretmeden Karar Veriyor, Jev sahneye çıktı

Büyük dil modelleri genellikle metin üretmek üzere geliştirilirken, otomasyon ortamlarında her zaman en etkili çözüm olmayabilir. TypeSafe AI’nın yeni modeli Jev, bu yaklaşımı tersine çevirerek doğal dil yanıtları yerine doğrudan olasılık skorları ve karar çıktıları üretiyor.

Haberi okuduğunuz için teşekkürler, bizi takip etmeyi unutmayın!

Jev’in arkasında, OpenAI’da görev yapmış ve insan geri bildirimli pekiştirmeli öğrenme (RLHF) yönteminin geliştirilmesine katkıda bulunan Diogo Almeida bulunuyor. Almeida, büyük dil modellerinin yazılım ve otomasyon süreçlerinde gereksiz karmaşıklığa yol açtığını fark ederek TypeSafe AI’yi kurdu.

Jev’in en belirgin özelliği, geleneksel büyük dil modellerindeki metin üretimini tamamen ortadan kaldırmasıdır. Model, jeton dizileri oluşturmak yerine doğrudan olasılık dağılımları üretir ve her karar için güven skoru sağlar. Bu yöntem, yapay zeka ajanlarının denetlenmesi, kod güvenliği ve otomatik sınıflandırma gibi alanlarda avantaj yaratır. Metin üretme aşamasının kaldırılması, işlem süresini kısaltırken maliyetleri düşürür. Ayrıca, modelin yalnızca önceden tanımlanmış seçenekler arasında olasılık üretmesi, metin tabanlı sistemlerde ortaya çıkan halüsinasyon riskini elimine eder.

Jev’in çıktıları doğrudan yazılım sistemlerine entegre edilebildiği için, model otomasyon bağlamında farklı bir konuma yerleşiyor. Geliştiriciler, modelin sağladığı olasılık skorlarını ek bir metin çözümleme adımı olmadan kendi sistemlerinde kullanabiliyor.

Bazı testlerde ciddi hız farkı ortaya çıktı

Vercel mühendislerinin yürüttüğü testlerde Jev, güvenlik denetimi komutlarında kullanılan ChatGPT Luna 5.6 modelinin yerine entegre edildi. Sonuçlar, Jev’in 5 ila 18 kat daha hızlı çalıştığını ve daha yüksek doğruluk sunduğunu gösterdi.

E-posta sınıflandırma testlerinde ise farklı bir tablo ortaya çıktı. Jev, Gemini modelinden biraz daha düşük doğruluk elde etse de işlem maliyetini 10 ila 20 kat azaltmayı başardı.

Modelin sağladığı gerçek olasılık skorları, özellikle otomatik karar mekanizmalarında önemli bir avantaj sunar. Sistem, sadece doğru seçeneği belirtmek yerine kararın ne kadar güvenilir olduğuna dair sayısal bir çıktı da verir.

Model yalnızca sentetik verilerle eğitildi

Jev, hızlı ve doğrudan karar vermeye odaklanan “System One” yaklaşımıyla çalışır ve eğitim sürecinde yalnızca sentetik veriler kullanılır.

Modelin adı, ekonomideki Jevons Paradoksu’ndan türetilmiştir. Bu kavram, bir kaynağın kullanım maliyeti düştükçe toplam tüketimin azalmak yerine artabileceğini öne sürer. TypeSafe AI, benzer bir etkinin yapay zekada ortaya çıkabileceğini ve işlem maliyetlerinin düşmesinin otomasyon kullanımını çok daha geniş bir ölçeğe taşıyabileceğini düşünüyor.