Microsoft dayanaklı D-Matrix, yeni AI çipinin Nvidia’lardan 10 kat süratli olduğunu tez ediyor

Yapay zekâ alanında yaşanan patlama ile birlikte AI çipleri de teknoloji sektörünün en stratejik alanlarından biri hâline gelmiş durumda. Bugün bu pazardaki en baskın oyuncu ise şüphesiz Nvidia. Şirketin H100 ve Blackwell gibi GPU’ları, OpenAI’dan Google’a kadar pek çok şirketin AI altyapısının temelini oluşturuyor. Ancak bu sektör büyüdükçe, Nvidia’nın rakipleri de artıyor.

Bir yandan Çin cephesinde Huawei ve Alibaba gibi şirketler kendi AI çiplerini geliştirirken, diğer yandan ABD’de de yeni girişimler (start-up’lar) sektöre iddialı bir şekilde giriyor. Son dönemde Cerebras, Groq, SambaNova gibi şirketler, klasik GPU mimarisine alternatif çözümler geliştirerek bu pazara iddia bir giriş yapmayı başardı. Cerebras kısa sürede değerini 50 milyar dolara kadar çıkarırken, Groq da Aralık ayında Nvidia tarafından 20 milyar dolara satın alındı.

Haberi okuduğunuz için teşekkürler, bizi takip etmeyi unutmayın!

D-Matrix: “Corsair, AI Çıkarım İşlemlerinde Nvidia’lardan Çok Daha Hızlı ve Verimli”

Şimdi bu şirketlere bir yenisi daha ekleniyor. Microsoft’un da yatırım yaptığı girişimlerden biri olan D-Matrix, geliştirdiği yeni yapay zekâ çipiyle Nvidia’ya ciddi bir alternatif sunabileceğini iddia ediyor. Şirketin Corsair adlı yeni çipinin özellikle yapay zekâ çıkarım (inference) işlemlerinde Nvidia GPU’larından çok daha hızlı ve enerji verimli olduğu söyleniyor.

D-Matrix tarafından paylaşılan verilere göre Corsair, belirli yapay zekâ iş yüklerinde Nvidia’nın bağımsız çalışan GPU’larına kıyasla 10 kata kadar daha hızlı çalışabiliyor. Üstelik bunu yaklaşık beş kat daha düşük enerji tüketimiyle gerçekleştirdiği belirtiliyor. Ancak burada önemli bir detay var. Şirketin sunduğu bu avantajlar küçük ve düşük gecikme süreli yapay zekâ işlemleri için geçerli. Yani Corsair, devasa dil modellerini eğitmekten ziyade mevcut modellerin çalıştırılması ve kullanıcılara cevap üretmesi tarafına odaklanıyor.

Corsair, DRAM Yerine SRAM Tabanlı Bir Yapı Kullanıyor

Zaten D-Matrix’in temel hedefi de doğrudan model eğitimi değil, son dönemde hızla büyüyen inference pazarı. Çünkü bugün ChatGPT, Gemini ya da Claude gibi sistemlerde asıl maliyet kalemlerinden biri artık modellerin eğitimi kadar, bu modellerin milyonlarca kullanıcıya gerçek zamanlı cevap verebilmesi hâline gelmiş durumda. Özellikle sohbet botları, sesli asistanlar ve agent tabanlı yapay zekâ araçları yaygınlaştıkça düşük gecikmeli inference sistemlerine olan ihtiyaç da giderek artıyor. D-Matrix’in geliştirdiği Corsair çipi ise bu noktada alışılmış GPU mimarisinden farklı bir yaklaşım benimsiyor. Nvidia GPU’ları büyük ölçüde DRAM ve HBM adı verilen yüksek bant genişlikli bellek çözümlerine dayanırken, D-Matrix bunun yerine SRAM tabanlı bir yapı kullanıyor. SRAM bellekler doğrudan çipin üzerine entegre edilebildiği için veri transfer mesafesi ciddi şekilde azalıyor. Bu da özellikle hızlı yanıt gerektiren yapay zekâ işlemlerinde önemli bir avantaj sağlıyor.

Üstelik bu yaklaşımın başka bir avantajı daha var. Şu anda yapay zekâ sektöründeki en büyük darboğazlardan biri HBM belleklere olan yoğun talep. Micron, Samsung ve SK Hynix gibi üreticiler bu talebi karşılamakta zorlanırken, Nvidia dâhil pek çok şirket üretim tarafında ciddi tedarik sorunları yaşıyor. D-Matrix CEO’su Sid Sheth’e göre şirketin SRAM odaklı yaklaşımı bu darboğazdan büyük ölçüde kaçınmalarını sağlıyor. Çünkü Corsair mimarisi büyük ölçüde DRAM’e bağımlı değil.

Ancak bu yaklaşımın önemli bir dezavantajı da bulunuyor. Stanford Üniversitesi’nde elektrik mühendisliği alanında görev yapan Rick Bahr’a göre SRAM tabanlı sistemler çok yüksek hız avantajı sunsa da devasa yapay zekâ modelleri için yeterli kapasiteyi sağlayamıyor. Özellikle bugün OpenAI ve Anthropic gibi şirketlerin kullandığı trilyonlarca parametreli modeller düşünüldüğünde, bu kadar büyük veri setlerini tamamen SRAM üzerinde çalıştırmak oldukça zor görünüyor. D-Matrix ise bunun bilinçli bir tercih olduğunu söylüyor. Sid Sheth’e göre Corsair’in amacı “en büyük modeli çalıştırmak” değil, mümkün olan en düşük gecikme süresiyle kullanıcı etkileşimini hızlandırmak. Özellikle sohbet botları, sesli yapay zekâ sistemleri ve Claude Code benzeri agent araçlarının gelecekte çok daha büyük bir pazar oluşturacağı düşünülüyor. D-Matrix de tam olarak bu alana oynuyor.

Şirketin verdiği bilgilere göre Corsair tek başına satılan bir çip değil. Dört farklı Corsair çipi tek bir kart üzerinde birleştiriliyor ve bu kart doğrudan veri merkezi sunucularına takılabiliyor. D-Matrix ayrıca Arista, Broadcom ve Super Micro ile birlikte tam ölçekli veri merkezi raf sistemleri üzerinde de çalışıyor. “SquadRack” adı verilen bu sistemin, şirketin çiplerini büyük yapay zekâ veri merkezlerine daha kolay entegre etmeyi sağlayacak

2019 yılında kurulan D-Matrix bugüne kadar yaklaşık 500 milyon dolar yatırım aldı. Bugün itibarıyla şirketin değerlemesi 2 milyar dolara yaklaşmış durumda. Hâliyle akıllara Nvidia’nın Groq’u satın alması ve D-Matrix’in de benzer bir satın almaya konu olup olmayacağı geliyor. Ancak D-Matrix CEO’su Sid Sheth şirketini satmayı düşünmediğini söylüyor. Sheth’e göre yapay zekâ inference pazarı gelecekte trilyon dolarlık bir sektör hâline gelebilir. Son dönemdeki gidişat da bu beklentiyi destekler nitelikte.