Anthropic Araçlarıyla OpenAI Sistemlerine Kritik Erişim Açığı Tespit Edildi

Yapay zeka şirketleri, yeni modeller geliştirmekle kalmayıp bu modellerin ne kadar güvenli kullanılabildiğiyle de sınanıyor. Son olayda, üç siber güvenlik araştırmacısı Anthropic tarafından geliştirilen özel bir güvenlik yazılımından yararlanarak OpenAI sistemlerinde kritik bir erişim açığı buldu.

Haberi okuduğunuz için teşekkürler, bizi takip etmeyi unutmayın!

Hacktron AI bünyesinde çalışan araştırmacılar, OpenAI’ın güvenlik açığı ödül programı kapsamında yürüttükleri çalışmada bir şirket çalışanına ait ChatGPT hesabına kadar ulaşmayı başardı. Bu erişim sayesinde özel yazılım bilgilerini görüntüleyebildiler ve şirket içi kodlara değişiklik önerileri sunabilecek seviyede yetki elde ettiler.

İhlalin başlangıç noktası, OpenAI’ın Discourse altyapısıyla çalışan topluluk forumunda bulunan bir yapılandırma hatası oldu. Araştırmacılar bu hata üzerinden şirket içi giriş bilgilerine erişti. Süreç ilerledikçe ekip, GitHub bağlantısı üzerinden OpenAI’ın dahili kodlarına erişebilen bir ChatGPT hesabını ele geçirdi. Böylece basit bir forum yapılandırma sorunu, şirket içi geliştirme ortamına kadar uzanan daha ciddi bir güvenlik problemine dönüştü.

OpenAI, araştırmacılar tarafından bildirilen açığın kapatıldığını açıkladı ve ekip üyelerine toplam 6.500 dolar ödül verdi.

Yapay zeka artık kendi gelişimine daha fazla katılıyor

Olayın dikkat çekici taraflarından biri, araştırmada Anthropic tarafından geliştirilen bir güvenlik aracının kullanılmış olması. Bu durum, güçlü yapay zeka modellerinin yalnızca savunma amaçlı değil, gelişmiş siber saldırı süreçlerinde de kullanılabileceğine yönelik tartışmaları yeniden gündeme taşıdı.

Anthropic’in paylaştığı veriler ise tartışmanın başka bir boyutunu ortaya koyuyor. Şirkete göre araştırma ve geliştirme çalışmalarının yüzde 26’sı doğrudan Claude modeli tarafından yönlendiriliyor. Bu oran, yapay zeka sistemlerinin kendi sonraki sürümlerinin geliştirilmesine giderek daha fazla katkı sunduğunu gösteriyor. İnsan denetimi halen sürecin merkezinde olsa da modellerin kod yazma, hata bulma ve geliştirme süreçlerinde artan rolü “öz yinelemeli gelişim” olarak adlandırılan kavramı yeniden öne çıkarıyor.

Uzmanların dikkat çektiği temel risk ise yapay zeka sistemlerinin kendi gelişim döngülerine daha fazla dahil olmasıyla insan denetiminin giderek zorlaşabilmesi. OpenAI sistemlerinde bulunan açık da bu tartışmanın yalnızca teorik olmadığını gösteren örneklerden biri haline geldi.