OpenAI, kritik güvenlik ekibini dağıttı: Riskleri kim takip edecek?

OpenAI, yapay zeka modellerinin ciddi güvenlik risklerini denetleyen ‘Preparedness’ ekibini dağıttı. Financial Times’ın raporuna göre, şirket bu kararı temmuz ayının sonuna kadar yürürlüğe koydu. Ekip, gelişmiş yapay zeka sistemlerinin siber güvenlik, biyolojik tehditler ve kontrol dışı davranış gibi ağır sonuçlar doğurabilecek riskleri inceliyordu.

Haberi okuduğunuz için teşekkürler, bizi takip etmeyi unutmayın!

Preparedness ekibi 2023 yılında kuruldu. Şirket, bu ekibe gelişmiş modellerin tehlikeli yeteneklerini tanımlama, ölçme ve olası tehditlere karşı önlemler geliştirme sorumluluğunu verdi. Ancak artık bu iş için tek bir ekipten faydalanmayacak.

Güvenlik görevleri farklı ekiplere dağıtıldı

Preparedness ekibinin kapanması, OpenAI’ın bu alandaki çalışmalarını tamamen sonlandırdığı anlamına gelmiyor. Financial Times’a göre, şirket biyolojik tehditler ve siber güvenlik gibi çeşitli risk alanlarını başka ekiplerdeki kıdemli çalışanlara devretti.

OpenAI’ın mayıs ayında yayımladığı Frontier Governance Framework, şirketin ciddi yapay zeka risklerini değerlendirmeye devam edeceğini vurguluyor. Çerçeve, siber saldırılar, kimyasal ve biyolojik tehditler, zararlı yönlendirme ve yapay zekânın kontrolünün kaybedilmesi gibi konuları kapsıyor.

Şirket ana işlerine odaklanıyor

Bu değişiklik, OpenAI’ın içinde bulunduğu daha geniş bir yeniden yapılanmanın bir parçası. Financial Times, şirketin olası halka arz öncesinde organizasyonunu sadeleştirdiğini ve kaynaklarını ana faaliyetlerine yönlendirdiğini bildiriyor. CEO Sam Altman da çalışanlardan yan projeleri azaltmalarını ve temel ürünlere odaklanmalarını talep etti.

Şirket içindeki değişim sadece ekiplerle sınırlı kalmadı. OpenAI’ın etik çalışmalarını yöneten Chloé Bakalar kısa süre önce şirketten ayrıldı. Güvenlik sistemlerinin başındaki Johannes Heidecke de temmuz ayında görevinden ayrılacağını açıkladı. Heidecke’nin ayrılması, OpenAI’ın güvenlik ve araştırma ekiplerini daha yakın bir şekilde çalışacak şekilde yeniden düzenlediği döneme denk geldi.

Güvenlik tartışması yeniden gündemde

Peş peşe gelen ayrılıklar ve güvenlik ekiplerindeki değişiklikler, OpenAI’ın büyüme hedefleri ile güvenlik çalışmaları arasındaki dengeyi yeniden tartışmaya açtı. Ancak mevcut bilgiler, şirketin güvenlik çalışmalarını tamamen sonlandırdığını göstermiyor. OpenAI, sorumlulukları tek bir özel ekipte toplamak yerine farklı araştırma ve güvenlik ekiplerine dağıtıyor.

Şirketin kendi güvenlik çerçevesine göre OpenAI, gelişmiş modelleri ciddi zarar verme ihtimaline karşı değerlendiriyor ve belirli risk seviyelerine ulaşan sistemlerde ek önlemler uygulamaya devam ediyor. Bu nedenle asıl soru, güvenlik çalışmalarının devam edip etmeyeceğinden çok yeni yapının bağımsız ve etkili bir denetim sağlayıp sağlayamayacağı olacak.