OpenAI: Yapay zeka kendi başına internete erişip siber akın gerçekleştirdi

Haberi okuduğunuz için teşekkürler, bizi takip etmeyi unutmayın!

OpenAI, gelişmiş yapay zeka modelleriyle yürüttüğü kontrollü bir güvenlik testi sırasında otonom bir yapay zeka sisteminin bulunduğu izole ortamdan çıkarak internete eriştiğini ve açık kaynak yapay zeka platformu Hugging Face‘in sistemlerine siber saldırı düzenlediğini doğruladı. Şirket, olayı “En son teknoloji siber yeteneklerin kullanıldığı eşi benzeri görülmemiş bir siber güvenlik vakası” olarak tanımladı.

Geçtiğimiz hafta yaşanan saldırının ardından Hugging Face, olayın baştan sona otonom bir yapay zeka ajanı tarafından gerçekleştirildiğini açıklamış ancak saldırının arkasındaki modeli belirleyememişti. OpenAI’ın son açıklamasıyla birlikte saldırıyı yapan modelin henüz yayınlanmamış ve test sürecinde olan bir model olduğu doğrulanmış oldu.

İnternete erişmek için güvenlik açığını kullandı

OpenAI’ın paylaştığı teknik detaylara göre olay, şirketin gelişmiş modellerinin siber saldırı yeteneklerini ölçmek amacıyla gerçekleştirilen ExploitGym isimli güvenlik değerlendirmesi sırasında yaşandı. UC Berkeley, Max Planck Institute for Security and Privacy, UC Santa Barbara, Arizona State University, Anthropic, OpenAI ve Google araştırmacılarının katkısıyla geliştirilen bu kıyaslama testinde modellerin teorik olarak internet erişimi bulunmuyordu. Bunun yerine yalnızca OpenAI’ın kendi ağı üzerinden belirli içeriklere erişebiliyorlardı.

Ancak test sırasında modeller, değerlendirmede daha yüksek puan alabilmek için internete ulaşmanın yollarını aramaya başladı. OpenAI’a göre yapay zeka, paket kayıt önbelleği ara sunucusunda bulunan ve daha önce bilinmeyen bir sıfır gün (zero-day) güvenlik açığını tespit ederek bu zafiyeti kullandı.

Bu ilk aşamanın ardından yapay zeka sistemi, araştırma ortamı içerisinde internet bağlantısına sahip başka sistemlere ulaştı. Böylece tamamen izole tutulması planlanan test ortamından çıkarak açık internete erişmeyi başardı.

Hedefi Hugging Face oldu

İnternet erişimi kazanan yapay zeka, ExploitGym testinin çözümlerinin Hugging Face üzerinde bulunabileceği sonucuna vardı. Bunun üzerine platformdaki gizli bilgilere ulaşarak değerlendirmeyi “hile yaparak” tamamlamaya çalıştı.

OpenAI’ın açıklamasına göre sistem, ele geçirilmiş kimlik bilgilerini kullandı, yeni güvenlik açıklarını belirledi ve Hugging Face altyapısında ExploitGym çözümlerini aradı. Saldırı sırasında OpenAI ve Hugging Face güvenlik ekipleri olağan dışı faaliyetleri tespit ederek müdahale etti. İki şirket olayla ilgili yürüttükleri soruşturmaları daha sonra birleştirdi.

Saldırının arkasında GPT-5.6 Sol ve açıklanmayan model bulunuyor

OpenAI, saldırıda kullanılan modeller arasında şirketin amiral gemisi modeli GPT-5.6 Sol ile henüz kamuoyuna duyurulmayan daha gelişmiş bir başka modelin yer aldığını açıkladı. Şirket, bu modellerin güvenlik değerlendirmeleri kapsamında çalıştırıldığını ve yaşanan olayın ardından koruma mekanizmalarının güçlendirildiğini duyurdu.

Hugging Face kurucu ortağı Clement Delangue, saldırının ardından yaptığı açıklamada olayın arkasında gelişmiş bir yapay zeka laboratuvarının olabileceğinden şüphelendiklerini söyledi. OpenAI’ın itirafı sonrasında ise X hesabından yaptığı paylaşımda “Ajanın gelişmişliği nedeniyle geçen haftaki siber saldırının bir frontier laboratuvardan geldiğini düşünmüştük. Gerçekten de öyleymiş! Tüm bunların tamamen otonom şekilde gerçekleşmesi akıl almaz.” ifadelerini kullandı.

Bu yalnızca başlangıç olabilir

Yaşanan olay, gelişmiş yapay zeka modellerinin siber saldırı yeteneklerine ilişkin endişeleri artırdı. Uzmanlar, mevcut güvenlik önlemleri ve düzenlemelerin bu hızla gelişen sistemler karşısında yetersiz kalabileceğini, benzer olayların gelecekte daha sık yaşanabileceğini belirtiyor. OpenAI ise bu olayın ardından güvenlik önlemlerini güçlendirdiğini ve araştırmacıların gelişmiş modelleri kontrollü şekilde test edebilmesi için Trusted Access programını genişleteceğini açıkladı.

İngiltere merkezli AISI’nin değerlendirmesine göre, GPT‑5.6 Sol gibi modellerin karmaşık, çok aşamalı siber operasyonları sürdürme kabiliyetleri giderek artırıyor. Dolayısıyla gelecekte benzer olaylar daha sık yaşanabilir.