OpenAI’dan yeni güvenlik katmanı: Lockdown Mode

OpenAI, yapay zeka sistemlerini hedef alan ve son yıllarda giderek daha fazla gündeme gelen “prompt injection” saldırılarına karşı yeni bir güvenlik özelliğini kullanıma sundu. Şirketin duyurduğu Lockdown Mode (Kilit Modu) özelliğinin özellikle hassas verilerle çalışan kişi ve kurumlar için tasarlandığı açıklandı. Özellik, ChatGPT’nin dış kaynaklarla etkileşimini önemli ölçüde sınırlandırarak veri sızıntısı riskini azaltmayı hedefliyor.

Hassas veriler için tasarlandı

Haberi okuduğunuz için teşekkürler, bizi takip etmeyi unutmayın!

Prompt injection saldırıları, kötü niyetli kişilerin web sayfaları, PDF dosyaları veya diğer içerik kaynakları içine gizlenmiş komutlar yerleştirerek yapay zeka modellerinin davranışlarını manipüle etmesine dayanıyor. Bu tür saldırılarda amaç, modelin normalde paylaşmaması gereken kurumsal veya kişisel verileri açığa çıkarmasını sağlamak olabiliyor.

OpenAI’a göre Lockdown Mode (Kilit Modu), herkes için geliştirilmiş bir özellik değil. Şirket, bu modu özellikle hassas veriler işleyen kullanıcılar ve kuruluşlar için tasarladığını özellikle belirtiyor.

OpenAI, özelliğin ChatGPT Business hesaplarına ve Ücretsiz, Go, Plus ve Pro dahil bireysel hesaplara dağıtılmaya başlandığını açıkladı.

Lockdown Mode etkinleştirildiğinde ChatGPT’nin internet ve harici servislerle olan bağlantıları ciddi ölçüde kısıtlanıyor. Bu yaklaşım, saldırganların model üzerinden dış sistemlere veri aktarma ihtimalini azaltmayı amaçlıyor. Bu kapsamda ChatGPT yalnızca önbelleğe alınmış içeriklere erişebiliyor. Dolayısıyla internetteki güncel verilere erişim kısıtlanıyor.

Ek güvenlik karşılığında bazı önemli özellikler de devre dışı bırakılıyor. Lockdown Mode açıkken ChatGPT dosya indiremiyor ve veri analizi amacıyla harici dosyalara erişemiyor. Ayrıca kullanıcılar Canvas tarafından oluşturulan kodların ağ erişimi sağlamasına izin veremiyor. OpenAI’ın gelişmiş araştırma özelliği olan Deep Research ile otonom görev yürütme yetenekleri sunan Agent Mode da bu mod altında kullanılamıyor.

Şirket ayrıca geliştiricilere yönelik bazı gelişmiş işlevlerin de sınırlandırıldığını ve Lockdown Mode etkin durumdayken Developer Mode’un kullanılamadığını belirtiyor.

Tam koruma sunmuyor

OpenAI, Lockdown Mode’un prompt injection kaynaklı veri sızıntısı riskini önemli ölçüde azaltmayı amaçladığını ancak mutlak koruma sağlamadığını belirtiyor. Şirkete göre kötü amaçlı talimatlar önbelleğe alınmış içeriklerde veya yüklenen dosyalarda yer alabileceğinden bazı saldırı senaryoları tamamen engellenemeyebilir. OpenAI ayrıca gelecekte ortaya çıkabilecek yeni saldırı yöntemlerine karşı kesin güvence verilemeyeceğini vurguluyor.