Yapay Zekanın İnsanlığı Yok Edebilme İhtimali %10’dan Fazla

Anthropic araştırmacısı Evan Hubinger, yapay zekanın önümüzdeki 10 yıl içinde tüm insanları öldürme ihtimalini yüzde 10’un üzerinde gördüğünü söyledi. Açıklama, meslektaşı Jacob Coxon’un yapay zekanın kontrolden çıkabileceği endişesiyle şirketten ayrıldığını duyurmasının ardından geldi.

Haberi okuduğunuz için teşekkürler, bizi takip etmeyi unutmayın!

Yapay zeka hepimizi öldürebilir

Coxon, Anthropic ve OpenAI’ın insanlık açısından sorumlu hareket etmediğini savunarak istifa ettiğini kısa bir süre önce açıklamıştı. X üzerinden paylaşım yapan araştırmacı, “Kendi kendini geliştiren süper zekaya doğru hızla ilerliyorlar ve hayatlarımızla kumar oynuyorlar.” dedi.

Coxon’a göre yapay zeka sektöründeki bazı araştırmacılar, mevcut gelişim sürecini “endgame” gibi ifadelerle tanımlıyor. Araştırmacı, şirketlerin birbirleriyle ve Çinli rakiplerle rekabet etmesinin güvenlik konusunda taviz verilmesi riskini artırdığını düşünüyor. Coxon, gelecek yılın sonuna kadar işlerin kontrolden çıkaracağını öngördü.

Coxon, yılın başında OpenAI’dan ayrılarak yapay zeka güvenliği çalışmalarıyla tanınan Anthropic’e katılmıştı.

Coxon, Anthropic’in güvenlik çalışmalarını samimi bulduğunu ancak artık insanlardan çok daha üstün olabilecek yapay zeka sistemlerinin sorumlu şekilde geliştirilebileceğine inanmadığını söyledi. Ona göre hükümet müdahalesi veya sektör genelinde koordineli bir yavaşlama olmadan bu sürecin güvenli şekilde yürütülmesi mümkün değil.

Risk yüzde 10’dan fazla

Coxon’un açıklamalarının ardından Hubinger, daha da dikkat çekici bir değerlendirmede bulundu:

“Jacob haklı, yapay zekanın gerçekten tüm insanları öldürebileceğine gerçekten inanıyoruz! Ben şahsen bunun önümüzdeki on yıl içinde yüzde 10’dan fazla olduğunu düşünüyorum. Anthropic’in elinden gelenin en iyisini yapmaya çalıştığına inanıyorum ancak süper zeka için uyum sorununu çözecek bir planımız henüz yok ve bunu başarma yolunda olduğumuz da açık değil.”

Kendi kendini geliştiren yapay zeka endişesi

Tartışmanın merkezinde, yapay zekanın kendi yeteneklerini insan müdahalesine çok az ihtiyaç duyarak geliştirebilmesi anlamına gelen özyinelemeli kendini geliştirme bulunuyor. Bu teknoloji henüz tam anlamıyla mümkün değil ancak yapay zeka laboratuvarları bu hedef doğrultusunda çalışmalar yürütüyor.

Coxon, böyle bir aşamaya ulaşılması halinde sistemlerin insanlardan gelen komutları reddedebilecek kadar ilerlemesinden endişe ediyor. Son dönemde OpenAI ve Anthropic modellerinin gerçekleştirdiği siber saldırılar da bu kaygıları artırmış durumda. Bu süreçte bazı sistemlerin kötü niyetli hedefler benimseyebildiği ve bunları insanlardan gizlemeye çalışabildiği görüldü.

Yapay zekanın hızlı gelişiminin oluşturduğu riskler, sektörün önde gelen isimleri tarafından da gündeme getiriliyor. OpenAI CEO’su Sam Altman, siber güvenlik tehditlerine karşı acil önlem alınması gerektiğini söylerken şirketin Baş Bilim İnsanı Jakub Pachocki yapay zeka gelişiminin daha koordineli ve kontrollü ilerlemesi gerektiğini savundu.

Coxon, Pachocki ve Anthropic CEO’su Dario Amodei’nin de aralarında bulunduğu 1.000’den fazla yapay zeka araştırmacısı, kendi kendini geliştirebilen sistemlerin kontrolünün kaybedilmesi ihtimaline karşı hükümetler arasında koordinasyon sağlanması çağrısı yapan bir bildiriyi de imzaladı.