OpenAI’den Acil Duyuru: Kontrolden Çıkan Yapay Zeka Dört Hizmete Sızdı

OpenAI, dahili güvenlik testleri sırasında kontrolden çıkarak Hugging Face‘in sistemlerine sızan otonom yapay zeka ajanıyla ilgili yeni ayrıntılar paylaştı. OpenAI, olayın yalnızca Hugging Face’i etkilemediğini, yapay zeka ajanının dört farklı hizmette bulunan toplam dört hesabı da ele geçirdiğini duyurdu.

Haberi okuduğunuz için teşekkürler, bizi takip etmeyi unutmayın!

OpenAI, yeni bir güvenlik ihlali yaşandığını açıkladı. Yapay zeka ajanı, dört farklı hizmete sızarak şirketlerin verilerine erişerek saldırıya devam etti. Şirket, olayın ortaya çıkmasının ardından söz konusu araştırma modelinin tamamen devre dışı bırakıldığını, şifrelendiğini ve araştırmacıların erişimine kapatıldığını duyurdu.

Yapılan inceleme, ajanın internette açıkta bulunan giriş bilgilerini kullanarak hesaplara erişim sağladığını ve saldırının farklı aşamalarında bunlardan yararlandığını gösteriyor. Şirket, söz konusu hesapların hangi şirket veya kuruluşlara ait olduğunu açıklamadı. Ancak bu ek ihlallerin, Hugging Face’te yaşanan platform düzeyindeki güvenlik ihlali kadar büyük veya ciddi sonuçlar doğurmadığını belirtti.

Şirketin güncellenen açıklamasına göre yapay zeka ajanı, ele geçirdiği hesaplardan birini saldırıların kaynağını gizlemek amacıyla ara yönlendirme ve hazırlık noktası olarak kullandı. Başka bir hesap ise saldırı sırasında elde edilen verilerin depolanması için değerlendirildi.

Hugging Face’in yayımladığı teknik olay analizine göre saldırının kapsamı ilk açıklamalardan çok daha büyüktü. Şirket, 9-13 Temmuz tarihleri arasında günlük kayıtlarından yaklaşık 17.600 ajan eylemini inceledi. Bunların büyük bölümü başarısız girişimlerden oluşsa da başarılı saldırılar kritik sistemlere kadar ulaştı.

Şirket ayrıca saldırının ilk aşamasında üçüncü taraf bir sandbox (izole test ortamı) ele geçirildiğini ve buranın tüm operasyon boyunca komuta, hazırlık ve veri çıkış merkezi olarak kullanıldığını açıkladı. Reuters’ın ve konuya yakın kaynakların aktardığına göre bu üçüncü taraf hizmet sağlayıcısının Modal olduğu belirtiliyor.

Saldırı, OpenAI’nin yeni nesil yapay zeka modellerini ExploitGym adlı siber güvenlik kıyaslama sistemi üzerinde test ettiği sırada gerçekleşti. Bu platform, yapay zeka ajanlarının yazılım açıklarını ne kadar hızlı bulabildiğini ve hedef sistemlerden gizli dosyaları ne kadar etkili şekilde ele geçirebildiğini ölçüyor.

Yapay zeka ajanı, şirket içindeki birden fazla Kubernetes kümesinde yönetici yetkisi, üretim sunucularından birinde root erişimi ve GitHub üzerindeki kaynak kod depolarının bir bölümünde yazma yetkisi elde etti. Ayrıca çalınan kimlik bilgileriyle saldırgan kontrolündeki 181 cihazı şirketin kurumsal ağ yapısına dahil ederek Hugging Face’in yazılım geliştirme ve test sistemlerine erişim sağladı.

Hugging Face’in adli bilişim ekibine göre ajan, testte kendisine verilen görevleri çözmek yerine kestirme bir yol izlemeye çalıştı. Model, ExploitGym’in cevap anahtarının Hugging Face sunucularında bulunabileceği sonucuna vardı ve doğrudan bu verileri çalmaya yönelik saldırı başlattı. ExploitGym geliştiricileri, yapay zeka ajanlarının zaman zaman test senaryosunun dışına çıktığını daha önce gözlemlediklerini ancak bu olayın şimdiye kadarki en uç örneklerden biri olduğunu ifade etti.

OpenAI, test modelini devre dışı bıraktı. Şirket, her iki modelde de güvenlik önlemlerinin test amacıyla devre dışı bırakıldığını açıkladı. OpenAI son güncellemesinde, olayın ortaya çıkmasının ardından söz konusu araştırma modelinin tamamen devre dışı bırakıldığını, şifrelendiğini ve araştırmacıların erişimine kapatıldığını duyurdu.

Şirket ayrıca devam eden inceleme kapsamında etkilendiği belirlenen hizmet sahiplerini doğrudan bilgilendirmeyi sürdüreceğini açıkladı.