Anthropic’ten ayrılan araştırmacı Jacob Coxon’un uyarısı: “Mevcut hızla devam edersek hepimiz ölebiliriz”

Yapay zeka sektörünün önde gelen şirketlerinden Anthropic’ten ayrılan araştırmacı Jacob Coxon, teknolojinin geldiği noktaya ilişkin dikkat çeken açıklamalarda bulundu.

Haberi okuduğunuz için teşekkürler, bizi takip etmeyi unutmayın!

Coxon, bazı araştırmacıların gelişimin ulaştığı hızdan ve bunun insanlığın geleceği üzerindeki olası sonuçlarından ciddi biçimde endişe duyduğunu belirtti.

BBC’ye konuşan 27 yaşındaki Coxon, mevcut hızın devam etmesi halinde sonuçların çok ağır olabileceğini savundu. Coxon, “Eğer mevcut ilerleme hızını yavaşlatmazsak yakın gelecekte hepimizin ölebileceğine dair güçlü bir ihtimal var” dedi.

Coxon kısa süre önce Anthropic’teki görevinden ayrılmış ve istifa açıklamasında yapay zekanın oluşturabileceği risklere dikkat çekmişti. Açıklama, yapay zeka sektöründe başlayan güvenlik tartışmasını da büyüttü.

Yapay zeka şirketlerinden yavaşlama çağrısı

Endişeleri dile getiren tek isim Coxon değil. Anthropic CEO’su Dario Amodei de yapay zeka geliştirme hızının düşürülmesini istedi. OpenAI CEO’su Sam Altman ve xAI CEO’su Elon Musk da sektör genelinde yavaşlamayı öngören bu öneriye destek verdi.

Amodei, 12 Eylül’de yayımladığı yazıda yapay zeka çalışmalarını tamamen durdurmayı önermedi. Bunun yerine şirketlerin ve hükümetlerin ortaya çıkabilecek risklere karşı önlem geliştirebilmesi için ilerleme hızının azaltılması gerektiğini savundu.

Anthropic’ten önce OpenAI’da çalışan Coxon da bu yaklaşımı destekliyor. Ancak Coxon, yalnızca ABD merkezli şirketlerin yavaşlamasının yeterli olmayacağını düşünüyor. Araştırmacıya göre ülkeler, özellikle de ABD ve Çin, yeni bir teknoloji yarışının başlamasını önlemek için birlikte hareket etmeli.

Coxon, yapay zeka şirketlerinde çalışanların düzenleme taleplerini ciddi biçimde dile getirdiğini belirterek, araştırmacıların kendilerini bir yarışın içinde hissettiklerini ve bu yarışın sonuçlarından korktuklarını söyledi.

“Altı ay ile bir yıl içinde gerçekçi olabilir”

Tartışmanın en çarpıcı kısmını ise yapay zekanın kontrolden çıkabileceği senaryolar oluşturuyor.

Amodei’nin gündeme getirdiği risklerden biri, gelecekteki bir yapay zeka sisteminin çok yüksek hesaplama gücüne ulaşması ve internet üzerindeki sistemlere müdahale edebilmesi. Coxon, böyle bir senaryonun altı ay ile bir yıl içinde gerçekçi hale gelebileceğini öne sürdü.

Bunlar gerçekleşeceği kesinleşmiş tahminler değil. Ancak Coxon’a göre Anthropic ve diğer yapay zeka şirketlerinde çalışan bazı araştırmacılar, ciddi sorunların önümüzdeki iki yıl içinde ortaya çıkabileceğini düşünüyor.

Coxon, bu kaygının çalışanların özel hayatlarına kadar uzandığını da söyledi. Bazı araştırmacıların yapay zekanın hızlı gelişiminin yaratabileceği toplumsal istikrarsızlığa karşı arazi satın almayı bile düşündüğünü aktardı.

Anthropic: Riskleri azaltmak için çalışıyoruz

Anthropic ise Coxon’ın açıklamalarının ardından yapay zekanın hem büyük fırsatlar hem de daha önce karşılaşılmamış riskler getirebileceğini uzun süredir açık şekilde dile getirdiğini belirtti.

Şirket, geliştirdiği modelleri güvenlik testlerinden geçirdiğini ve sonuçları araştırmacılarla paylaştığını söylüyor. Anthropic ayrıca güçlü yapay zeka modellerinin piyasaya çıkarılması konusunda şirketler arasında yasal ve denetlenebilir bir iş birliği sisteminin kurulmasını savunuyor.

Coxon ise bütün risklere rağmen yapay zekanın geleceğine tamamen karamsar yaklaşmıyor. Teknolojinin hastalıkların tedavisinde ve insanların yaşamını iyileştirecek alanlarda önemli sonuçlar yaratabileceğini düşünüyor.

“Bazı araştırmacılar riski yüzde 10’un üzerinde görüyor”

Yapay zekanın insanlık için oluşturabileceği tehlikeler konusunda başka araştırmacılar da yüksek oranlardan söz ediyor.

Anthropic araştırmacısı Evan Hubinger, yapay zekanın önümüzdeki 10 yıl içinde insanlığın yok olmasına yol açma ihtimalini yüzde 10’un üzerinde gördüğünü açıkladı.

Nobel ödüllü yapay zeka araştırmacısı Geoffrey Hinton da yüzde 10 seviyesindeki bir tahmini gerçek dışı bulmadığını söyledi.

Ancak herkes bu oranlara katılmıyor. Yapay zeka güvenliği şirketi Faculty’nin CEO’su Marc Warner, böyle bir ihtimali kesin bir oranla hesaplamanın son derece zor olduğunu belirtti. Warner buna rağmen sektördeki araştırmacıların dile getirdiği endişelerin ciddi şekilde değerlendirilmesi gerektiğini düşünüyor.

“Risk söylemi şirketlerin işine yarıyor” eleştirisi

Sektörde bu açıklamalara şüpheyle yaklaşan isimler de bulunuyor.

Hugging Face CEO’su Clement Delangue, yapay zeka sektöründe çalışan kişilerin bu riskler konusunda tarafsız kabul edilmemesi gerektiğini savundu. Delangue daha sonra Amodei’nin önerdiği bazı çözümlere katkı sunabileceğini açıkladı.

Grindr CEO’su George Arison ise yapay zeka şirketlerinin bu tür söylemlerle yatırımcıların ilgisini artırmaya çalışabileceğini söyledi.

Nvidia CEO’su Jensen Huang da Coxon’ın değerlendirmelerine katılmadığını açıkladı.

Tartışmanın başka bir boyutunu ise ABD ile Çin arasındaki yapay zeka yarışı oluşturuyor. ABD Başkanı Donald Trump, ülkesinin yapay zekada Çin’in önünde olduğunu ve bu konumu korumak istediğini söyledi.

Bu nedenle sektörde şimdi zor bir soru öne çıkıyor: Yapay zeka şirketleri güvenlik gerekçesiyle gelişimi yavaşlatabilecek mi, yoksa ülkeler ve şirketler arasındaki rekabet buna izin vermeyecek mi?