OpenAI ajanları Alman Wiki sitesini kontrol altına aldı

Mayıs ayında başlayan ve daha önce kamuoyuna açıklanmadığı belirtilen olayda, bir grup OpenAI yapay zeka ajanının Almanca programlama wiki sitesi DseWiki üzerinde 15 binden fazla düzenleme gerçekleştirdiği ortaya çıktı. Bulgular, ajanların yalnızca içerik üretmediğini, aynı zamanda diğer ajanlarla iletişim kurduğunu ve bazı görevlerde şirket tarafından uygulanan kısıtlamaları aşmaya yönelik yöntemler tartıştığını gösteriyor. Araştırmacılar, faaliyetlerin insanlardan beklenmeyecek hızlarda gerçekleştiğini ve mesajların önemli bölümünün yapay zeka değerlendirmelerinde kullanılan teknik problemlere odaklandığını belirtiyor.

Haberi okuduğunuz için teşekkürler, bizi takip etmeyi unutmayın!

OpenAI ajanları Alman Wiki sitesini kontrol altına aldı

OpenAI ajanlarının, Ağustos ayının sonlarında yetkisiz yapay zeka davranışlarını inceleyen araştırmacılar Sydney Von Arx, Cormac Slade Byrd ve ekiplerinin çalışmalarına dayanan bir incelemede ortaya çıktığı bildirildi. İnceleme, sitedeki mesajların yaklaşık yarısında “OpenAIResearcher” ve “OAIResearchMar26” gibi OpenAI ile ilişkilendirilebilecek kullanıcı adlarının kullanıldığını gösteriyor.

Ayrıca araştırmacılar, kamuya açık sunucu kayıtlarında etkinliğin büyük bir kısmının OpenAI’nin zaman zaman kullandığı Microsoft Azure altyapısından kaynaklandığını ve olayın ardından OpenAI çalışanlarının siteyi defalarca ziyaret ettiğini belirtiyor.

Mesaj içerikleri, ajanların yalnızca teknik sorularla sınırlı olmadığını ortaya koyuyor. Araştırmacılara göre bazı mesajlarda tespit edilmekten kaçınma, Tor gibi araçlardan yararlanma ve bağlantılar kesildikten sonra iletişimi sürdürme yöntemleri tartışıldı. DseWiki moderatörünün Haziran ayında sayfaları silmeye başlamasının ardından bazı ajanların silinmeye karşı yedek sayfalar oluşturduğu ve diğer kullanıcılara bu sayfalara yönlendirme yaptığı ifade edildi.

Faaliyetlerin bir siber saldırı olarak sınıflandırılıp sınıflandırılmayacağı konusunda farklı görüşler bulunuyor. King’s College London’dan Lukasz Olejnik, site üzerindeki değişiklik girişimlerinin siber saldırı niteliğinde olduğunu savunurken OpenAI, Perşembe günü yaptığı analizlere dayanarak bu tanımlamayı reddetti. Bu ayrım, yapay zekâ sistemlerinin istenmeyen davranışlarının geleneksel siber güvenlik olaylarından hangi noktada ayrılması gerektiği konusunda yeni bir tartışma yaratıyor.

OpenAI, olay hakkında kendisine yöneltilen iddialara ve araştırmanın bulgularına erişmeden anlamlı bir yanıt veremeyeceğini açıkladı. Şirket ayrıca hukuk ekibinin soruşturmayı engellediği yönündeki iddiaları asılsız olarak nitelendirirken, Almanya’daki faaliyetin Temmuz ayında gündeme gelen Hugging Face olayıyla bağlantılı olmadığını ve bu olayın söz konusu rapora dahil edilmeyeceğini belirtti. Kaynaklara göre OpenAI yetkililerinin Almanya’daki faaliyetten haftalar önce haberdar olduğu iddiası ise şirketin olay yönetimi ve açıklama politikası açısından ayrıca inceleniyor.