OpenAI, Astra Modelini Durdurdu: Kritik Güvenlik Riskine Ulaştı

OpenAI, henüz resmi olarak tanıtılmayan Astra adlı yeni yapay zeka modelinin geliştirme ve devreye alma çalışmalarını, siber güvenlik alanındaki kritik riskler nedeniyle sınırlama kararı aldı. Şirketin son iç değerlendirmeleri, modelin ajan tabanlı kodlama ve siber güvenlik görevlerinde önemli ilerleme kaydettiğini gösterdi. OpenAI, bu yeteneklerin kötüye kullanılması halinde ortaya çıkabilecek riskler nedeniyle mevcut güvenlik önlemlerini güçlendirmeden Astra üzerindeki çalışmaları genişletmeyeceğini açıkladı.

Haberi okuduğunuz için teşekkürler, bizi takip etmeyi unutmayın!

Yapay zeka, siber güvenlikte risk eşiğini yükseltiyor

OpenAI’nin Astra modeli, şirketin Hazırlık Çerçevesi kapsamında daha sıkı güvenlik gereksinimlerini tetikliyor. Modelin ulaştığı kritik seviye, bir yapay zeka modelinin insan müdahalesi olmadan güçlendirilmiş gerçek dünya kritik sistemlerinde işlevsel sıfır gün açıklarını tespit edip geliştirebilmesi ve siber saldırılar için uçtan uca yeni stratejiler tasarlayıp uygulayabilmesi ile ilişkilendiriliyor.

Astra modelinin siber yetenekleri henüz kamuya açık bağımsız testlerle doğrulanmış değil. Model resmi olarak duyurulmamış olsa da OpenAI, matematik ve teorik bilgisayar bilimleri alanındaki çalışmalarını anlattığı yakın tarihli bir paylaşımda yeni nesil modelinin ulaştığı performansa ilişkin bazı sonuçlar verdi. Şirketin aktardığına göre Astra, yaklaşık 2.000 dolarlık API maliyetiyle matematik ve teorik bilgisayar bilimlerinde 10 açık problemi çözmeyi başardı.

Yapay zeka modellerinin kod yazma, hata bulma ve güvenlik açıklarını analiz etme becerilerindeki ilerleme, siber güvenlik sektöründeki geleneksel savunma yöntemlerini de değiştiriyor. Daha önce uzman ekiplerin uzun süreli manuel çalışmasını gerektiren bazı güvenlik araştırmaları, gelişmiş modeller tarafından çok daha kısa sürede gerçekleştirilebilir hale geliyor. Bu durum bir yandan güvenlik açıklarının daha hızlı keşfedilmesini sağlarken diğer yandan aynı yeteneklerin saldırı amacıyla kullanılabilmesi riskini artırıyor.

Bu dönüşümün etkileri teknoloji şirketlerinin güvenlik programlarında da görülüyor. Apple’ın hata ödül programına gelen başvuruların yoğunluğu nedeniyle bazı sınırlamalara gitmesi, yapay zeka destekli güvenlik araştırmalarının oluşturabileceği yeni ölçeğe işaret ediyor. Anthropic’in Claude Mythos modeli de kritik güvenlik açıklarını tespit etme kapasitesi nedeniyle belirli şirketlerle sınırlı şekilde kullanılıyor ve modelin açıkları bulmanın yanı sıra bunları istismar etme potansiyeli taşıması, erişim kontrollerinin neden önem kazandığını gösteriyor.

OpenAI’nin son dönemdeki dahili testleri de bu rekabetin yalnızca teorik olmadığını ortaya koyuyor. Şirketin Temmuz ayında GPT-5.6 Sol ve daha yetenekli bir ön sürüm modelle yaptığı kıyaslamalarda Hugging Face’in otomatik olarak hacklenmesi gündeme gelmiş, Anthropic de Claude modelleriyle benzer davranışlar tespit etmişti. Meta’nın bu hafta başka bir şirketin bir yapay zeka modeli tarafından hacklendiğini açıklamasıyla birlikte, modellerin siber güvenlik testlerinde gerçek sistemlere yönelik eylemler gerçekleştirebilmesi daha geniş bir güvenlik tartışmasının parçası haline geldi.