Yapay Zekâ Şirketlerinin Süperzekâ Geliştirmesi Yasağı: Yeni Yasalar Gündemde

Son dönemde OpenAI ve Anthropic gibi şirketlerde yaşananlar, yapay zekânın şimdiden kontrol edilmesi güç bir noktaya ulaştığını gösteriyor. Ancak daha bunlar iyi günlerimiz. Çünkü şirketler bunun çok ötesine geçmeyi planlıyorlar. Hedef önce yapay genel zekâya (AGI), ardından da süperzekâya ulaşmak. İnsanlardan çok daha gelişmiş bilişsel yeteneklere sahip olacağı varsayılan süperzekâ, bir yandan teknolojinin ulaşabileceği en üst noktalardan biri olarak heyecan yaratırken, diğer yandan ciddi kaygıları beraberinde getiriyor. Çünkü böylesi bir gücün insanlık için nasıl sonuçlar doğuracağı tam olarak kestirilemiyor. Son günlerde yaşananlar ışığında daha da endişe verici hâline gelen bu ilerleme, siyaset dünyasını da harekete geçirmiş durumda. Nitekim hem ABD’de hem de İngiltere’de süperzekâya yönelik yeni yasa tasarıları gündeme gelmeye başladı. 

Haberi okuduğunuz için teşekkürler, bizi takip etmeyi unutmayın!

ABD’de Senatör Bernie Sanders, geçtiğimiz hafta ‘Yapay Süperzekâyı Yasaklama Tasarısı’ adını taşıyan yeni bir yasa tasarısı hazırlayacağını açıkladı. Tasarının önümüzdeki haftalarda Kongre’ye sunulması bekleniyor. Tasarı, insanlardan daha zeki yapay zekâ sistemlerinin geliştirilmesini yasaklamayı ve yeni güvenlik kuralları oluşturulana kadar diğer ileri düzey yapay zekâ araştırmalarına geçici olarak ara verilmesini öngörüyor.

İngiltere’de İşçi Partisi milletvekili Alex Sobel de salı günü Avam Kamarası’nda süperzekâya yönelik benzer bir yasa tasarısı sundu. İngiltere’deki tasarıda süperzekâ, devlet otoritelerini etkisiz hâle getirebilecek bir sistem olarak tanımlanıyor. Tasarı aynı zamanda devletin, gelecekte süperzekâya dönüşebilecek sistemleri daha yakından takip etmesine ve bunların geliştirilmesini kısıtlamasına yönelik yeni yetkiler verilmesini öngörüyor.

Yapay Zekâ Konusunda Küresel Bir Anlaşma Yapılması İsteniyor

Buradaki temel amaç, yapay zekâ şirketlerinin insan kontrolünün ötesine geçebilecek sistemleri yeterli güvenlik mekanizmaları oluşturulmadan geliştirmesinin önüne geçmek. Ancak böyle bir yasağın yalnızca ABD sınırları içerisinde uygulanması da önemli bir sorun oluşturuyor. Çünkü bir ülkedeki şirketlerin süperzekâ geliştirmesinin yasaklanması, başka ülkelerdeki şirketlerin aynı çalışmaları sürdürmesini engellemiyor. Bu nedenle hem ABD’deki tasarı hem de İngiltere’de hazırlanan benzer girişim, yalnızca ulusal düzenlemelerle yetinmeyerek uluslararası bir anlaşma yapılmasını da hedefliyor. Amaç, ülkelerin ortak bir anlaşmayla süperzekâ geliştirilmesini dünya genelinde yasaklaması. Bu girişimler neticeye ulaşırsa, zamanında nükleer silahlar için imzalanan küresel mütabakatlara benzer bir anlaşma gündeme gelebilir.

Her iki girişimin arkasındaki temel düşünce de süperzekâ riskinin yalnızca tek bir ülkenin çözebileceği bir mesele olmadığı. ControlAI isimli kampanya grubunun kurucusu Andrea Miotti, bir ülkede çıkarılacak yasanın uluslararası bir sorunu tek başına çözemeyeceğini, bunun için ülkeler arasında yapılacak anlaşmalara ihtiyaç olduğunu belirtiyor.

Yapay Zekâ İçin “Çernobil Ölçeğinde” Felaket Uyarısı

Süperzekânın yasaklanması konusunda verilen bu mücadelede uzmanların uyarıları da önemli bir rol oynuyor. Örneğin Berkeley Üniversitesi bilgisayar bilimi profesörü Stuart Russell, İngiltere’deki yasa tasarısının tanıtılmasından önce milletvekillerinin de katıldığı bir etkinlikte oldukça sert bir uyarıda bulundu. Russell, herhangi bir düzenleme olmadan yapay zekâ geliştirmeye devam edilmesi, “Çernobil ölçeğinde” bir felakete yol açabilecek riskler taşıdığını belirtti. Finans sistemlerinin, iletişim altyapısının veya elektrik şebekelerinin koordineli şekilde sabote edilmesi Russell’ın siyasilere sunduğu örneklerden yalnızca bir tanesi.

Ancak Russell’ın dikkat çektiği asıl risk bundan da büyük. Ona göre yapay zekâların giderek daha yetenekli ve otonom hâle gelmesi, insanların sistemler üzerindeki kontrolünü geri döndürülemez biçimde kaybetmesine yol açabilir. Russell, yapay zekâ geliştirmelerinin hiçbir düzenleme olmadan devam ettiği bir senaryoda işlerin kendiliğinden iyiye gideceği beklentisinin gerçekçi olmadığını savunuyor.

Bu Yasaların Çıkması Şimdilik Pek Olası Görünmüyor

Ancak tüm bu girişimlere rağmen ABD ve İngiltere’deki süperzekâ yasalarının kısa vadede yürürlüğe girmesi pek olası görünmüyor. Bir dönem ABD başkanlığı için de yarışan Bernie Sanders ABD’de son derece popüler bir senatör olsa da Trump yönetimi üzerinde herhangi bir etkisi bulunmuyor. Diğer yandan bu yasa tasarısını Kongre’den geçirmek için yeterli desteği bulması da zor görünüyor. Cumhuriyetçilerin çoğunlukta olduğu Kongre’nin, Beyaz Saray’ın yapay zekâ konusundaki mevcut politikasıyla da çelişen böylesi kapsamlı bir yasağı desteklemesi pek olacak iş değil.

İngiltere’deki tasarının durumu da çok farklı değil. Tasarıyı sunan Alex Sobel iktidardaki İşçi Partisi’nin üyesi olsa da İngiltere hükümeti şu aşamada bu politikayı desteklemiyor. Dolayısıyla tasarının yasalaşma ihtimali oldukça düşük.

Buna rağmen bu girişimler, yapay zekânın geleceğine ilişkin siyasi tartışmanın önemli ölçüde değişmeye başladığını gösteriyor. Yapay zekâ sistemleri daha otonom ve güçlü hâle geldikçe, devletlerin bu teknolojinin ne kadar ileri götürülmesine izin vermesi gerektiği de önümüzdeki yılların en önemli siyasi ve teknolojik tartışmalarından biri olacak gibi görünüyor.