Çin Ulusal Bilgisayar Ağı Acil Durum Müdahale Teknik Ekibi (CNCERT), açık kaynaklı ve kendi kendine barındırılan otonom yapay zeka (AI) ajanı OpenClaw'ın (eski adıyla Clawdbot ve Moltbot) kullanımından kaynaklanan güvenlik hakkında bir uyarı yayınladı.
WeChat'te paylaşılan bir gönderide CNCERT, platformun "doğal olarak zayıf varsayılan güvenlik yapılandırmalarının", otonom görev yürütme yeteneklerini kolaylaştırmak için sisteme ayrıcalıklı erişimiyle birleştiğinde, uç noktanın kontrolünü ele geçirmek için kötü aktörler tarafından keşfedilebileceğini belirtti.
Bu, bir web sayfasına yerleştirilmiş kötü niyetli talimatların, aracının kandırılarak içeriğe erişmesi ve onu tüketmesi durumunda hassas bilgileri sızdırmasına neden olabileceği hızlı enjeksiyonlardan kaynaklanan riskleri de içerir.
Saldırı aynı zamanda dolaylı istem enjeksiyonu (IDPI) veya alanlar arası istem enjeksiyonu (XPIA) olarak da anılır; çünkü rakipler, büyük bir dil modeliyle (LLM) doğrudan etkileşim kurmak yerine, manipüle edilmiş talimatları çalıştırmak için web sayfası özetleme veya içerik analizi gibi iyi huylu AI özelliklerini silah haline getirir. Bu, yapay zeka tabanlı reklam inceleme sistemlerinden kaçınmak ve işe alım kararlarını etkilemekten, arama motoru optimizasyonu (SEO) zehirlenmesine ve olumsuz incelemeleri bastırarak önyargılı yanıtlar oluşturmaya kadar değişebilir.
OpenAI, bu hafta başında yayınlanan bir blog yazısında, hızlı enjeksiyon tarzı saldırıların, sosyal mühendislik unsurlarını içerecek şekilde harici içeriğe basit talimatlar yerleştirmenin ötesine geçtiğini söyledi.
"Yapay zeka aracıları giderek daha fazla web'e göz atabiliyor, bilgi alabiliyor ve kullanıcı adına işlem yapabiliyor" dedi. "Bu yetenekler faydalıdır ancak aynı zamanda saldırganların sistemi manipüle etmeye çalışması için yeni yollar da yaratır."
OpenClaw'daki hızlı enjeksiyon riskleri varsayımsal değildir. Geçtiğimiz ay PromptArmor'daki araştırmacılar, Telegram veya Discord gibi mesajlaşma uygulamalarındaki bağlantı önizleme özelliğinin, dolaylı bir istem enjeksiyonu yoluyla OpenClaw ile iletişim kurarken bir veri sızma yoluna dönüştürülebileceğini keşfetti.
Yüksek düzeydeki fikir, yapay zeka aracısını, saldırgan tarafından kontrol edilen bir URL oluşturması için kandırmaktır; bu URL, mesajlaşma uygulamasında bir bağlantı önizlemesi olarak işlendiğinde, bağlantıya tıklamaya gerek kalmadan otomatik olarak gizli verileri söz konusu alana iletmesine neden olur.
Bu gelişme, kurumların tehdit görünürlüğü, yama yönetimi, güvenli geliştirme süreçleri ve olay müdahale hazırlığı açısından siber güvenlik gündemini daha yakından izlemesi gerektiğini gösteriyor.
Kaynak: The Hacker News
