Yapay Zeka Modellerine Kontrol mi Geliyor?

Google bünyesinde faaliyet gösteren DeepMind’ın CEO’su Demis Hassabis, yapay zeka teknolojilerinin barındırdığı riskleri yönetmek ismine global bir denetleyici kurum kurulması gerektiğini vurguladı. Hassabis, bu kıymetli teklifini kaleme aldığı yeni bir blog yazısı ile kamuoyuyla paylaştı.

Haberi okuduğunuz için teşekkürler, bizi takip etmeyi unutmayın!

Söz konusu teşebbüse OpenAI CEO’su Sam Altman da dayanak veriyor. İki isim, yapay zeka alanında memleketler arası standartların belirlenmesi için yeni bir yapının kural olduğu konusunda hemfikir görünüyor.

ABD’nin liderlik rolü ve kurumun işleyişi

Hassabis, ABD’nin ekonomik ve teknik gücü sayesinde bu global teşebbüse öncülük etmek için en uygun aday olduğunu savunuyor. Kurulması planlanan yapının, mevcut finansal düzenleyici kurumların çalışma prensiplerine emsal bir model izlemesi öneriliyor.

Bu kurumun, bağımsız uzmanlar ve açık kaynak topluluklarından temsilcilerle oluşturulması hedefleniyor. Böylelikle kararların daha şeffaf ve kapsayıcı bir formda alınması amaçlanıyor.

Risk idaresi ve bölüm denetimi

Önerilen denetleyici kurum, ileri seviye yapay zeka modellerini piyasaya sürülmeden evvel ayrıntılı bir kıymetlendirme sürecinden geçirecek. Bu süreç, teknolojinin inançlı bir halde topluma sunulmasını garanti altına almayı hedefliyor.

Eğer geliştirilen modeller fazla riskli bulunursa, kurumun kesim genelinde süreksiz bir yavaşlama sürecini koordine etme yetkisi olacak. Bu sayede olası güvenlik açıklarının yahut etik meselelerin önüne geçilmesi planlanıyor.

Hassabis’in bu önerisi, teknoloji dünyasında yapay zeka güvenliği tartışmalarını tekrar alevlendiriyor. Dalın geleceğini şekillendirebilecek bu denetleyici kurum fikri hakkında siz ne düşünüyorsunuz?