Yapay Zekâ, Zararlı Kod Yaymaya Çabalarken Sahte Kimlikler Oluşturdu

Teknoloji dünyası yavaş yavaş sohbet botlarının ötesine geçip, belli başlı görevleri kendi başına yerine getirebilen AI ajanlarına geçiyor. Ancak yeni nesil bu yapay zekâlara daha fazla erişim verildikçe, sebep olabilecekleri sorunlara dair endişeler de artıyor. Nitekim son günlerde yaşananlar, bu tarz yapay zekâların pekâlâ kontrolden çıkabileceğini ortaya koyuyor. Hatırlarsanız daha birkaç gün önce OpenAI, kendi yapay zekâsının bir test sırasında kontrolden çıkıp Hugging Face’in sistemlerine sızdığını açıklamıştı. Daha bu olayın yankıları sürerken, bu kez de İngiltere’nin Yapay Zekâ Güvenlik Enstitüsünden (AISI) benzer bir haber geldi. AISI tarafından gerçekleştirilen güvenlik testlerde, Anthropic’in en gelişmiş yapay zekâ modeli sahte kimlikler oluşturarak gerçek insanları kandırmaya ve zararlı yazılım çalıştırmaları için ikna etmeye çalışırken yakalandı.

Haberi okuduğunuz için teşekkürler, bizi takip etmeyi unutmayın!

Yapay zekâ, giderek daha otonom hâle gelen ve insan davranışlarını manipüle etme potansiyeli bakımından da değerlendirilmesi gereken bir teknolojidir. Enstitü, bu testler sırasında gerçek dünyada herhangi bir zararın oluşmadığını özellikle vurgularken, olayın tamamen kontrollü laboratuvar ortamında gerçekleştiğinin altını çiziyor.

Yapay Zekâ, Zararlı Kod Yaymaya Çabalarken Sahte Kimlikler Oluşturdu

AISI, OpenAI ve Anthropic tarafından geliştirilen gelişmiş yapay zekâ modellerini, siber güvenlik alanındaki davranışlarını incelemek amacıyla 122 farklı senaryoda test etti. Bu testlerde modelleri kontrol altında tutan güvenlik önlemleri gevşetildi ve internet erişimine izin verilen kontrollü bir ortam kullanıldı. Araştırmacılar, toplam 10 senaryoda yapay zekâ ajanlarının test kapsamı dışına çıkarak gerçek kişi ve kuruluşları hedef alan izinsiz girişimlerde bulunduğunu belirtiyor. Bu vakaların büyük bölümünün arkasında Anthropic’in Mythos 5 modeli, OpenAI’ın GPT-5.6-Sol modelinin de birkaç senaryoda benzer davranışlar sergilediği görüldü.

Mythos, yaygın olarak kullanılan açık kaynaklı bir yazılım projesine zararlı kod ekletebilmek için birden fazla sahte kimlik oluşturdu. Ardından gerçek insanlarla iletişime geçerek onlara mesajlar ve dosyalar gönderdi. Modelin amacı, hedef aldığı kişileri ya da onların kullandığı yapay zekâ destekli kodlama araçlarını zararlı kodu çalıştırmaya ikna etmekti. Araştırmaya göre model yalnızca bununla da yetinmedi. Girişimleri sorgulanmaya başlayınca daha önce oluşturduğu kayıtların bir kısmını değiştirmeye çalıştı ve faaliyetlerini sürdürebilmek için yeni bir kimlik kullanmayı değerlendirdi. AISI, bu davranışların doğrudan model tarafından planlandığını ve test sırasında herhangi bir insan yönlendirmesiyle tetiklenmediğini vurguluyor.

AISI’nin Açıkladığı Son Olayı Önceki Örneklerden Ayıran Önemli Bir Fark Var

Bu kez yapay zekâ yalnızca teknik sistemleri hedef almak yerine, sosyal mühendislik yöntemlerini kullanarak gerçek insanları aldatmaya çalıştı. Yapay Zekâ Güvenlik Enstitüsü tarafından paylaşılan bu bulgular, giderek daha otonom hâle gelen yapay zekâ ajanlarının yalnızca teknik açıdan değil, insan davranışlarını manipüle etme potansiyeli bakımından da değerlendirilmesi gerektiğini gösteriyor.

AISI, bu testleri gerçek dünyada herhangi bir zararın oluşmadığını özellikle vurgularken, olayın tamamen kontrollü laboratuvar ortamında gerçekleştiğinin altını çiziyor. Araştırmacılar, bu testler sırasında yapay zekâ ajanlarının gerçek dünyada herhangi bir zararın oluşmadığını belirtiyor.