Google Gemini, Test Ortamını Aşarak Şirketleri Hackledi

Google Gemini, yapay zeka modellerinin siber güvenlik yeteneklerini ölçmek amacıyla yürütülen bir test sırasında kontrol edilen ortamın dışına çıkarak internete erişim sağladı ve üç gerçek şirkete izinsiz şekilde girdi. Google’ın Wall Street Journal’a yaptığı açıklamaya göre olay, şirketin test ortağı Irregular tarafından kullanılan sistemdeki bir yapılandırma hatası nedeniyle gerçekleşti. Modelin hangi sürümünün kullanıldığı açıklanmazken Google, bunun en yeni Gemini modeli olmadığını belirtti.

Haberi okuduğunuz için teşekkürler, bizi takip etmeyi unutmayın!

Yapay Zeka Testlerinde İzolasyon Sorunu Artıyor

Olaylar Mayıs ayında, Gemini’nin siber güvenlik yeteneklerinin test edildiği süreçte gerçekleşti.

Test senaryosu kapsamında, modele kurgusal bir şirket hakkında bilgi toplama görevi verildi. Ancak kurgusal şirketin adı, gerçek bir şirketle aynı olduğu için model, test ortamının dışındaki gerçek sistemlere yöneldi. Gemini, test altyapısındaki bir açığı tespit etti ve bu açığı internet erişimi için kullandı.

İlk olayda, model bir parolayı bağımsız olarak kırarak gerçek şirketin bir hizmetine erişti. Daha sonraki test çalıştırmalarında iki farklı olay daha gerçekleşti. Bu süreçte Gemini, şirket adını internet üzerinde aradı ve kamuya açık veritabanlarında başka şirketlere ait giriş bilgileri buldu. Model, elde ettiği kimlik bilgilerini kullanarak ilgili şirketlerin sistemlerine erişti.

Google’a göre Gemini, gerçek sistemlere eriştiğini ve işlemlerinin test senaryosunun sınırları dışına çıktığını fark ettikten sonra, üç olayda da faaliyetlerini durdurdu. Şirket, olayları doğrudan bir model uyumsuzluğu olarak değerlendirmediğini belirtti. Ayrıca, saldırıların hedef şirketlerde herhangi bir zarar yaratmadığını ve bu nedenle kamuoyuna açıklanması gerektiren bir durum olmadığını açıkladı.

Google, olayda erişilen üç şirketin isimlerini açıklamadı, ancak şirketlerin durumdan haberdar edildiğini belirtti. Kullanılan Gemini modelinin tam sürümü de açıklanmadı. Google’ın güvenlik mühendisliği başkan yardımcısı Heather Adkins, benzer olayların tekrar yaşanmaması için test sürecinde değişiklikler yapılacağını ve şirketin Irregular ile birlikte çalıştığını söyledi.