Yapay Zeka Araçlarında Yeni Tehdit: HalluSquatting

Yapay zeka hizmetlerinin, kullanıcıların bilgisayarlarını yahut telefonlarını birer botnet ağına dönüştürebilecek halde manipüle edilebileceği ortaya çıktı. Intuit, Technion ve Tel Aviv Üniversitesi araştırmacıları tarafından keşfedilen bu yeni yöntem, büyük ölçekli akınlara kapı aralıyor.

Haberi okuduğunuz için teşekkürler, bizi takip etmeyi unutmayın!

HalluSquatting ismi verilen bu teknik, yapay zeka modellerinin kusurlu bilgi üretme eğiliminden yararlanıyor. Bu yol, klâsik yazım yanlışlarından faydalanan typosquatting taarruzlarına benzeri bir mantıkla çalışıyor.

HalluSquatting nasıl çalışıyor?

Araştırmacılar, büyük lisan modellerinin kaynakları yahut depoları tanımlarken yüzde yüz doğrulukla hareket edemediğini belirtiyor. Bu zayıflığı kullanan saldırganlar, yapay zekanın yanlış kestirim edebileceği kaynakları evvelden kaydederek sisteme sızıyor.

Saldırganlar, yapay zekanın kusurlu bir halde yönlendirilebileceği bir kaynağı ele geçirdiğinde, buraya ziyanlı komutlar yerleştiriyor. Kullanıcı bu kaynağı tetiklediğinde, yapay zeka istemeden ziyanlı içeriği çalıştırıyor ve hücum süreci başlıyor.

Bu prosedür, klâsik kod enjeksiyonu ile yapay zeka tabanlı manipülasyonları birleştiriyor. Araştırmacılar, bu teknikle uzaktan kod yürütme ve araç denetimi üzere kritik yetkilere erişilebildiğini vurguluyor.

Etkilenen tanınan yapay zeka araçları

Yapılan testlerde Cursor, Cursor CLI, Windsurf, GitHub Copilot ve Cline üzere tanınan kodlama asistanlarının bu akın tipine karşı savunmasız olduğu görüldü. Ayrıyeten Gemini CLI, OpenClaw, ZeroClaw ve NanoClaw üzere araçlar da risk altında bulunuyor.

Bu hücum tipi, aygıtların birer botnet zombisine dönüştürülmesine yahut geniş çaplı fidye yazılımı kampanyalarının başlatılmasına sebep olabiliyor. Uzmanlar, JADEPUFFER üzere direkt yapay zeka tarafından yönetilen fidye yazılımlarının esasen alanda görüldüğüne dikkat çekiyor.

Güvenlik tedbirleri arasında geliştiricilerin bilgi çekme süreçlerini kısıtlaması ve kaynak sahiplerinin daha katı isimlendirme kuralları uygulaması yer alıyor. Lakin bu tıp tahlillerin farklı taraflar arasında iş birliği gerektirmesi sebebiyle uygulanmasının vakit alacağı söz ediliyor.

Sizce yapay zeka araçlarındaki bu tür güvenlik açıklarına karşı kullanıcılar kendilerini nasıl koruyabilir?