CEO George Kurtz, Yapay Zeka Yavaşlatma Çağrılarına Karşı İtiraz Yaptı

Yapay zeka alanında sınır modellerinin geliştirilme hızının yavaşlatılması gerektiğine dair çağrılar, siber güvenlik uzmanları arasında yeni bir tartışma başlattı. CrowdStrike CEO’su George Kurtz, gelişmiş ve açık ağırlıklı modellerin hâlihazırda yaygın biçimde erişilebilir olduğunu vurgulayarak, bu tür çalışmaların dondurulmasının mevcut tehditleri ortadan kaldırmayacağını belirtti.

Haberi okuduğunuz için teşekkürler, bizi takip etmeyi unutmayın!

Kurtz’un açıklamaları, Anthropic CEO’su Dario Amodei tarafından sınır yapay zeka modellerinin geliştirme hızının azaltılmasını talep eden yazısının ardından geldi. CNBC’ye konuşan Kurtz, tehlikeli modellerin zaten kamuya açık olduğunu ve güvenlik açıklarını ortaya çıkarmak amacıyla kullanılabileceğini söyledi. Durumu “cin şişeden çıktı” ifadesiyle tanımlayan yönetici, asıl sorunun modellerin geliştirilmesini durdurmak yerine kullanım sırasında yaratabilecekleri riskleri kontrol altına almak olduğunu öne sürdü.

Tartışmanın finans piyasalarında da hareketli bir döneme denk gelmesi dikkat çekti. CrowdStrike’un Kurtz’un sözleri, yapay zeka sistemleriyle ilişkilendirilen Hugging Face ve RubyGems saldırılarının ardından geldi. Bu olaylar, yalnızca yapay zeka modellerinin ne kadar güçlü hale geldiğini değil, otonom çalışan sistemlere hangi yetkilerin verilmesi gerektiği konusunda da güvenlik tartışmasını büyüttü. Aynı dönemde yazılım açıklarının kapatılması için gerçekleştirilen güncellemelerin kapsamı da genişledi. Microsoft, Patch Tuesday kapsamında iki sıfır gün açığının da aralarında bulunduğu toplam 974 güvenlik açığını gideren büyük bir güncelleme yayımladı. Kurtz’un yaklaşımına göre bu tablo, savunma tarafının gelişmiş araçların oluşturduğu yeni tehdit ortamına sürekli olarak uyum sağlaması gerektiğinin göstergelerinden biri.

Devlet düzenlemelerine karşı temkinli yaklaşım

Kurtz, otonom ajanların sıkı biçimde kontrol edilmesi gerektiği konusunda David Sacks ile benzer bir noktada duruyor. Bununla birlikte kapsamlı devlet müdahalelerinin farklı bir risk yaratabileceğini düşünüyor. Çok ağır düzenlemelerin ABD’nin küresel rakipleri karşısındaki rekabet gücünü zayıflatabileceği görüşünde. Bu nedenle geliştirme çalışmalarını yavaşlatmak yerine yapay zeka laboratuvarları ile güvenlik şirketlerinin birlikte çalıştığı bir model öneriyor. Kurtz bu yaklaşımın örneklerinden biri olarak Anthropic’in Project Glasswing girişimini gösterdi.

Project Glasswing, Anthropic’in Mythos modeli için geliştirdiği güvenlik yaklaşımında laboratuvar seviyesindeki korumaları üretim ortamında uygulanan çalışma zamanı izleme araçlarıyla birleştiriyor. Böylece güvenlik yalnızca model geliştirilirken uygulanan sınırlamalara bırakılmıyor; model gerçek ortamda çalışırken davranışlarının izlenmesi de savunmanın bir parçası haline geliyor.

Bu ayrım, Kurtz ile Amodei arasındaki görüş farklılığının merkezinde. Amodei, güçlü sınır modellerinin geliştirme hızının düşürülmesini savunurken Kurtz, halihazırda dolaşımda olan modeller nedeniyle böyle bir önlemin siber güvenlik sorununu tek başına çözemeyeceği görüşünde. Savunmanın, modellerin ve yapay zeka ajanlarının gerçek kullanım ortamındaki davranışlarını kontrol edebilecek biçimde geliştirilmesini istiyor.

Amodei’nin yavaşlama çağrısına itirazlar artıyor

Anthropic CEO’sunun önerisi yalnızca teknoloji şirketlerinden tepki görmedi. Trump yönetimi de yapay zeka geliştirme hızının düşürülmesine karşı çıkarak böyle bir yaklaşımın ABD’yi Çin karşısında rekabet açısından dezavantajlı hale getireceğini savundu. Çin tarafı da Amodei’nin yaklaşımını reddetti. Yapılan açıklamada korku yaratmanın, çatışmanın ve sert rekabetin küresel yapay zeka yönetiş sürecini bozacağı ve bunun hiçbir tarafın çıkarına olmayacağı görüşü dile getirildi.

Kurtz’un çıkışıyla birlikte tartışmanın iki farklı güvenlik anlayışı etrafında şekillendiği daha belirgin hale geldi. Bir tarafta daha güçlü modeller geliştirilmeden önce riskleri azaltmak amacıyla ilerleme hızının düşürülmesini isteyen yaklaşım var. Diğer tarafta ise mevcut modellerin zaten erişilebilir hale geldiğini kabul edip güvenlik yatırımlarını çalışma zamanı denetimi, ajan kontrolleri ve savunma araçlarına yönlendirmeyi savunan görüş yer alıyor.

CrowdStrike CEO’su ikinci yaklaşımı destekliyor. Kurtz, yapay zekanın özellikle otonom hareket edebilen sistemlerle yeni güvenlik sorunları yaratabileceğini reddetmiyor. Ancak modellerin geliştirilmesini durdurmaya yönelik geniş kapsamlı önlemler yerine, yapay zeka sistemlerinin ne yaptığını gerçek zamanlı olarak görebilen ve gerektiğinde müdahale edebilen güvenlik mekanizmalarının geliştirilmesini daha uygulanabilir bir yol olarak değerlendiriyor.