Windows 11’de lokal yapay zeka için NPU mecburiliği esniyor

Microsoft, Copilot+ PC ekosistemini tanımlarken öne çıkardığı en önemli donanım gereksinimlerinden biri olan NPU (Neural Processing Unit / Nöral İşlem Birimi) zorunluluğunu gevşetmeye başladı. Şirket tarafından güncellenen belgeler ve GitHub üzerinden paylaşılan bilgiler, artık belirli Nvidia ekran kartlarına sahip Windows 11 bilgisayarların da yerel yapay zeka işlevlerini çalıştırabileceğini ortaya koyuyor.

RTX 30 serisi ve üstü için destek

Haberi okuduğunuz için teşekkürler, bizi takip etmeyi unutmayın!

Yeni düzenlemeyle birlikte Nvidia GeForce RTX 30 serisi ve daha yeni ekran kartlarına sahip, en az 6 GB VRAM sunan sistemler Windows’un yerel dil modeli API’lerini destekleyebilecek. Şimdilik geliştiricilere yönelik deneysel bir özellik olarak sunulan bu değişikliğin zamanla son tüketicilere yayılması bekleniyor.

Öte yandan Microsoft, 18 Haziran 2024’te tanıttığı Copilot+ PC‘leri, yerel yapay zeka deneyimlerinin yeni merkezi olarak konumlandırmıştı. Bu bilgisayarların öne çıkan özelliklerinden biri, yapay zeka işlemleri için özel olarak tasarlanmış NPU‘lara sahip olmalarıydı.

Buna karşın yapay zeka iş yüklerini çalıştırabilen tek donanım sınıfı NPU’lar değil. Uzun yıllardır makine öğrenimi modellerinin çalıştırılmasında kullanılan modern GPU’lar, paralel işlem kapasitesi sayesinde bu tür görevlerde oldukça yüksek performans sunabiliyor. Günümüzdeki birçok senaryoda ekran kartları, ham işlem gücü açısından bazı NPU çözümlerini geride bırakabiliyor. Eksiklikleri ise bunu yaparken daha fazla enerji tüketmeleri.

Microsoft’un bugüne kadar izlediği yaklaşım nedeniyle yüksek performanslı ekran kartlarına sahip çok sayıda Windows bilgisayarı, işletim sisteminin yerel yapay zeka özelliklerinden yararlanamıyordu. Yerel metin ve görsel üretimi gibi işlevlerin yanı sıra Windows Recall ve diğer bazı yapay zeka araçları yalnızca NPU içeren Copilot+ cihazlarla sınırlandırılmıştı. Bu durum, güçlü GPU’lara sahip olmasına rağmen Copilot+ kriterlerini karşılamayan sistemlerin erişimini engelliyordu.

Microsoft’un güncellenen belgelerine göre geliştiriciler Copilot+ olmayan Windows 11 bilgisayarlarda da yerel dil modeli API’lerini kullanabilecek. Özellik şimdilik deneysel aşamada ve Windows AI altyapısını kullanan uygulamalar üzerinden çalışıyor.

Sistemin merkezinde yer alan Phi Silica modeli, ihtiyaç duyulması halinde Windows Update aracılığıyla indiriliyor ve desteklenen donanım üzerinde yerel olarak çalıştırılıyor. Windows.AI.Text API’leri sayesinde uygulamalar metin özetleme, yeniden yazma, yapılandırılmış veri oluşturma ve istem üretme gibi görevleri bulut bağlantısına ihtiyaç duymadan gerçekleştirebiliyor.

Buna karşın Windows Recall ve Click to Do gibi bazı Copilot+ özellikleri halen NPU gerektiriyor. Bu nedenle GPU desteği, şu aşamada Copilot+ deneyiminin tamamını değil, yalnızca dil modeli API katmanını kapsıyor.