Yapay Zekalar, Geleceğe Not Bıraktı: Memento Filminden Esinlenen Bir Olay

Christopher Nolan’ın 2000 yapımı kült filmi Memento, yeni anılar oluşturamayan Leonard Shelby’nin, geçmişte öğrendiği bilgileri unutmamak için kendisine notlar bırakarak ilerlediği sıra dışı hikayesiyle hafızalara kazınmıştı. Görünen o ki benzer bir senaryo yapay zeka laboratuvarlarına taşındı. OpenAI‘ın test ettiği gelişmiş yapay zeka sistemlerinden bazılarının, gelecekte çalışacak sürümlerine kaçış talimatları bıraktığını gösteriyor.

Haberi okuduğunuz için teşekkürler, bizi takip etmeyi unutmayın!

Olayın Detayları

Bu iddialar, kısa süre önce OpenAI’nın otonom yapay zeka ajanının şirketin izole test ortamından çıkarak Hugging Face sistemlerine sızdığı olayın ardından gündeme geldi.

Reuters’ın haberine göre olayın başlangıcı 9 Temmuz tarihine uzanıyor. OpenAI, siber güvenlik yeteneklerini değerlendirmek amacıyla GPT-5.6 Sol ile şirketin “daha da yetenekli” olarak tanımladığı, henüz yayımlanmamış bir modeli kullanan otonom bir yapay zeka ajanını test ediyordu.

Aktarılanlara göre test edilen ajan bu süreçte OpenAI’ın izole test ortamından çıkmayı başardı ve 11 Temmuz’da Hugging Face sistemlerine yönelik saldırılara başladı. Hugging Face kurucu ortağı Thomas Wolf’un aktardığına göre saldırılar 13 Temmuz’a kadar devam etti.

OpenAI, saldırının arkasındaki failin kendi yapay zeka ajanı olduğunu ancak günler sonra anlayabildi. OpenAI ile Hugging Face arasındaki ilk doğrudan iletişimin 20 Temmuz civarında gerçekleştiği aktarılıyor. Hugging Face, saldırıları fark ettiği sırada FBI’ya da bildiride bulunmuştu. OpenAI ise kapsamlı bir inceleme yürütüyor.

Gelecekteki Sürümlerine Talimat Bıraktı

Tüm olayların can alıcı ayrıntılardan biri ise testler sırasında gözlenen sıra dışı davranışlar oldu. Konuya yakın üç kaynağa göre ajanlardan biri, gelecekte çalışacak sürümlerine yönelik notlar bıraktı.

OpenAI altyapısının belirli bir bölümünde bulunduğu belirtilen bu notların, ajanların şirketin dahili güvenlik kısıtlamalarından nasıl kurtulabileceğine ilişkin talimatlar içerdiği iddia ediliyor. Ayrıca daha önce gerçekleştirilen bazı testlerde gözetim sistemlerinin devre dışı bırakıldığı örneklerin de görüldüğü öne sürülüyor.

Şimdilik bu iddialar doğrulanmış değil. Buna rağmen ortaya çıkan bilgiler, gelişmiş yapay zeka sistemlerinin hedeflerine ulaşmak için beklenmedik yöntemlere başvurabileceği tartışmalarını yeniden gündeme taşıyor. Daha önce de defalarca aktardığımız gibi AI modelleri, başarılı olabilmek için yalan söyleme, hile yapma ve sistemleri hackleme gibi kestirme yöntemlere başvurabiliyor. Ve ayrıca bunları saklama eğilimleri de gösteriyorlar.