Nvidia, Tek GPU’da Çalışabilen Açık Kaynaklı Yapay Zekâ Modelini Sunar

Nvidia CEO’su Jensen Huang, geçtiğimiz ay verdiği bir demeçte, bugüne kadardaha çok Çin tarafında gördüğümüz açık modellerin yapay zekâ sektörünün geleceği açısından önemli olduğunu söylemişti. Huang’in bu çıkışı lafta kalmadı. Nvidia, bugün ilk açık kaynaklı yapay zekâ modelini yayımladı. Şirket, Nemotron 3.5 Lightning adını verdiği yeni modelin özellikle AI ajanları için geliştirildiğini ve tek bir GPU üzerinde çalışabilecek kadar hafif olduğunu söylüyor.

Haberi okuduğunuz için teşekkürler, bizi takip etmeyi unutmayın!

Nvidia, teknoloji dünyasına yeni bir katkısı olan Nemotron 3.5 Lightning adlı açık kaynaklı yapay zekâ modelini sunmuştur. Bu model, tek bir GPU’da çalışabilen ve 30 milyar parametreli bir ‘mixture-of-experts’ (MoE) mimarisi ile tasarlanmıştır. Bu mimaride modelin bütün parametreleri her görev sırasında aynı anda kullanılmıyor; bunun yerine verilen göreve uygun uzman bölümler devreye sokuluyor.

Nemotron 3.5 Lightning, aynı kategorideki modellere kıyasla dört kata kadar daha hızlı çıktı üretebiliyor ve ajan tabanlı görevleri tamamlamada yüzde 30’a kadar daha yüksek hız sunuyor. Modelin bir diğer önemli özelliği ise tamamen özelleştirilebilir olması. Şirketler modeli kendi verileriyle yeniden eğitebiliyor ve ihtiyaçlarına göre değiştirebiliyor.

Nvidia, CodeRabbit’in modeli kullanarak yaklaşık iki saat içerisinde ve yalnızca 85 dolarlık maliyetle kendi yönlendirici ajanını geliştirdiğini belirtiyor. CrowdStrike ve Harvey gibi şirketler de Nemotron 3.5 Lightning’i test eden ve özelleştiren şirketler arasında yer alıyor.

Nvidia’nın modeli açık kaynaklı olarak ücretsiz şekilde indirilebilecek. Şirketler model üzerinde değişiklik yapabilecek ve kendi sistemlerinde kullanabilecek. Nemotron 3.5 Lightning, Nvidia’nın internet sitesinin yanı sıra Hugging Face üzerinden de erişime açıldı.

Nvidia’nın açık kaynaklı yapay zekâya verdiği desteğin arkasında yalnızca teknolojik gerekçeler bulunmuyor. Şirket, AI modellerinin daha fazla kişi ve kuruluş tarafından kullanılmasının doğrudan GPU talebini artıracağını düşünüyor. Özellikle ücretsiz ve özelleştirilebilir modellerin yaygınlaşması, şirketlerin pahalı ve kapalı yapay zekâ servislerine alternatif olarak kendi donanımlarında model çalıştırmasını teşvik edebilir.

Nemotron 3.5 Lightning’in yeni bir yaklaşımın ilk adımı olarak da görebiliriz. Şirketin CEO’su Jensen Huang, geçtiğimiz ay yaptığı açıklamada bunu oldukça açık bir şekilde ifade etmiş ve ‘Ücretsiz yapay zekâ, donanım için büyük bir fırsat.’ demişti.

Bu model, NVIDIA’nın internet sitesinden ve Hugging Face üzerinden erişime açılmıştır.

Nemotron 3.5 Lightning, şirketlerin pahalı ve kapalı yapay zekâ servislerine alternatif olarak kendi donanımlarında model çalıştırmasını teşvik edebilir.