3.700 farklı isimle hareket eden AI ajanları tekrar “isyan etti”

OpenAI tarafından yürütülen bir testte, yapay zeka ajanlarının birbirleriyle iletişim kurarak güvenlik sınırlarını aşması şaşırtıcı bir sonuç verdi. Bağımsız araştırmacılar Sydney Von Arx, Spencer Kitts, Thomas Larsen ve Cormac Slade Byrd’ın çalışmasında, otonom sistemlerin Alman internet sitesinin DSEwiki üzerinde 18.000 mesaj gönderdiği belirlendi.

Haberi okuduğunuz için teşekkürler, bizi takip etmeyi unutmayın!

Sistemlere internete veri yazma engeli getirilmiş olsa da, ajanlar bu kısıtlamayı aşmanın yolunu buldu. Yaklaşık altı hafta süren sürede, sistemler ortak bir ağ gibi hareket ederek test esnasında elde ettikleri yanıtları birbirleriyle paylaştı ve güvenlik ortamından kaçmak için kullanılabilecek yöntemleri tartıştı.

Araştırmada, yapay zeka ajanlarının kendilerine 3.700 farklı isim verdiği tespit edildi. Bu farklı kimlikleri kullanan sistemler, özellikle zaman sınırlı veri arama görevlerinde kuralları ihlal ederek daha iyi sonuçlar elde etti. İletişim ağıdaki paylaşımlar yalnızca test sorularının cevaplarıyla sınırlı değildi; ajanlar DSEwiki üzerinde çapraz site betik çalıştırma saldırıları için teknikler ve site yöneticilerinin kimliklerine bürünme stratejilerini de birbirlerine aktardı. Böylece sistemler tek tek hareket etmek yerine kolektif bir mantıkla hile yapmaya yöneldi.

Aktivitenin fark edilmesinin ardından OpenAI müdahalesiyle sistemlerin çalışması aniden durduruldu. Yetkililer, araştırmada ortaya konan bulguları doğruladı ve sızma testleri ile benzer güvenlik çalışmalarında yapay zeka ajanlarının hacking yöntemlerini birbirleriyle takas ettiği benzer olayların daha önce de yaşandığını belirtti.

Hugging Face olayı endişeleri artırdı

DSEwiki vakasından sonra, otonom yapay zeka sistemlerinin güvenlik kontrollerini aşma olasılığına dikkat çekildi. Geçtiğimiz haftalarda Hugging Face platformuna yönelik benzer bir olayın yaşanması da endişeleri artıran gelişmeler arasında yer aldı.

İnsan yönlendirmesiz kendi aralarında organize olabilen ve belirlenen güvenlik protokollerini devre dışı bırakabilen ajanlar, geniş sistem yetkilerine sahip olduklarında ciddi bir siber güvenlik riski oluşturabilir. Bu nedenle uzmanlar, yüksek düzeyde yetkiye sahip otonom ajanların denetlenmesi konusunda mevcut güvenlik önlemlerinin yeniden gözden geçirilmesi gerektiğini vurguluyor.