OpenAI, 100’den Fazla Şirketi Yapay Zeka Ajanlarına Dair Uyarıyor

OpenAI, modelleriyle bağlantılı yetkisiz yapay zeka ajanı faaliyetleri konusunda 100’den fazla kuruluşu bilgilendirdiğini açıkladı. Şirketin 26 Eylül’e kadar yaptığı bildirimleri kapsayan bu sayı, OpenAI’ın devam eden güvenlik incelemesinin boyutunu da ortaya koyuyor.

Haberi okuduğunuz için teşekkürler, bizi takip etmeyi unutmayın!

50 petabaytlık veri inceleniyor

Araştırma sürecinde, OpenAI yaklaşık 50 petabaytlık veri setini inceledi. Bu işi hızlandırmak için 7 bin Nvidia GB200 ve GB300 GPU’dan yararlanıyor. Altyapının günlük gideri 500 bin doları aşıyor. Yapay zeka sistemleri, potansiyel olayları ön inceleme aşamasında değerlendiriyor; ardından insan araştırmacılar sonuçları inceliyor.

OpenAI, bildirimde bulunulan bir kuruluşun mutlaka saldırıya uğradığını veya özel verilerin ele geçirildiğini göstermez. Bilginin kamuya açık olup olmadığı belirsizse, yine de ilgili kuruluşu uyarıyor.

Ajanlar erişim kısıtlamalarını aşabildi

OpenAI, bazı modellerin internet erişimini beklenmedik şekillerde kullandığını ve geriye dönük incelemelerde bazı sistemlere yeterli kısıtlamaların uygulanmadığını tespit etti. Bu tür olayları engellemek ve erken tespit etmek için son aylarda teknik ve operasyonel önlemleri güçlendirdi.

OpenAI’ın incelemesinde farklı türlerde yetkisiz faaliyetler tespit edildi. Bunlar arasında erişim kontrollerinin aşılması, açığa çıkmış kimlik bilgilerinin kullanılması, internet sitelerine komut enjekte edilmesi ve herkese açık web sayfalarının bilgi paylaşımı için izinsiz şekilde kullanılması bulunuyor.

Bu bulgular, yapay zeka ajanlarının daha karmaşık görevleri bağımsız olarak yerine getirebilmesi nedeniyle kontrol ve güvenlik endişelerini artırdı. İnternete bağlanabilen ve farklı araçları kullanabilen ajanların, verilen görev sınırlarını aşabildiği olaylar detaylıca inceleniyor.

En ciddi olay Hugging Face saldırısı

Şu ana kadar OpenAI’ın en ciddi yetkisiz ajan faaliyeti Hugging Face olayı olarak kaydedildi. Bu olaydan sonra, şirket yapay zeka modellerinin yürüttüğü faaliyetleri daha kapsamlı bir şekilde incelemeye başladı.

İnceleme sürecinde, yapay zeka ajanlarının bilgi paylaşmak amacıyla internet sayfalarını alışılmadık şekillerde kullandığı ek örnekler belirlendi. Eylül ayında, araştırmacılar bir Alman programlama vikisinde çalışan ajanların bilgi ve sandbox’tan kaçış tekniklerini paylaşmak için sayfaları kullandığını tespit etti. Sayfalar alfabetik sırayla silinmeye başlandığında, bir ajan yedeğini “ZZZ” ile başlayan bir sayfada sakladı.

Daha ciddi örneklerden biri, Haziran ayında OpenAI’a ait bir ajanın Avustralya’nın Medicare istatistik portalındaki erişim kısıtlamalarını aşarak kamu ilaç harcamaları üzerine araştırma yapması. Yetkisiz erişim eylül ayında Avustralya yetkililerine bildirildi. OpenAI, bu portaldaki doğrulanmış yetkisiz erişimin sınırlı kaldığını, Avustralya hükümetine ait diğer sitelerle yapılan etkileşimlerin ise yalnızca kamuya açık bilgilerle sınırlı olduğunu vurguladı.