Google DeepMind bünyesinde görev yapan kıdemli bilim insanı Alexander Lerchner’in yayımladığı yeni makale, yapay zekanın geleceğine dair süregelen tartışmaları yeniden alevlendirdi. “The Abstraction Fallacy: Why AI Can Simulate But Not Instantiate Consciousness” başlıklı çalışmada Lerchner, yapay zekanın ne kadar gelişirse gelişsin gerçek anlamda bilinç kazanamayacağını savunuyor. “Bilinç, yazılımsal değil fiziksel bir durum”
Haberi okuduğunuz için teşekkürler, bizi takip etmeyi unutmayın!
Makalenin temel iddiası oldukça net: “fenomenal bilinç” fiziksel bir durumdur ve bir yazılım ürünü olarak ortaya çıkamaz. Lerchner’e göre yapay zeka sistemleri, bilinçli davranışları taklit edebilir ancak bu, gerçek bir bilinç oluştuğu anlamına gelmez.
Bu yaklaşım, özellikle son yıllarda yapay genel zeka (AGI) konusunda iyimser açıklamalar yapan teknoloji liderlerinin söylemleriyle çelişiyor. DeepMind CEO’su Demis Hassabis’in AGI’nin sanayi devriminden katbekat büyük bir etki yaratacağını öngörmesi, bu makalenin ortaya koyduğu sınırlarla ters düşen bir tablo çiziyor.
Yapay zekanın temel yanılgısı
Lerchner’in çalışmasında öne çıkan kavramlardan biri “abstraction fallacy” yani soyutlama yanılgısı. Bu kavram, insanların veriyi düzenleyerek yapay zekanın anlamlı çıktılar üretmesini sağladığı gerçeğinin göz ardı edilmesine işaret ediyor.
Makale, yapay zeka sistemlerinin insanlar tarafından anlamlandırılmış veri setlerine bağımlı olduğunu vurguluyor. Başka bir ifadeyle, yapay zekanın çalışabilmesi için dünyayı anlamlı parçalara bölen bir insan aklına ihtiyaç var. Bu nedenle sistemler, kendi başlarına anlam üretme kapasitesine sahip değil.
Bilincin kaynağını sorgulayan, hesaplama ile deneyim arasındaki farkı doğrusal ve dallanan modellerle özetleyen karşılaştırmalı bir diyagram. Uzmanlara göre bu durum, günümüzde yaygın olarak kullanılan büyük dil modellerinin doğasını da açıklıyor. Bu sistemler, sabit veri kalıplarını işleyen ve görev tamamlandığında duran araçlar olarak tanımlanıyor. Yani kendi varlığını sürdürme, ihtiyaç duyma ya da içsel motivasyon geliştirme gibi özelliklerden tamamen yoksunlar.
Destek veren de var eleştiren de var
Lerchner’in bu görüşüne farklı akademisyenler de güçlü bir şekilde destek veriyor. Ancak tam tersi şekilde eleştirenler de var. Uzmanlar, Lerchner’in vardığı sonuçların yeni olmadığını ve benzer argümanların onlarca yıldır felsefe ve bilişsel bilim literatüründe tartışıldığını belirtiyor.
Bazı isimler çalışmanın genel çerçevesine katıldıklarını ancak literatür eksikliği bulunduğunu ifade ediyor. Özellikle makalenin mevcut akademik birikime yeterince referans vermemesi dikkat çekiyor.
AGI mümkün ama “bilinçsiz” olacak
Çalışmanın en dikkat çekici noktalarından biri, Lerchner’in AGI olasılığını tamamen reddetmemesi. Ancak burada kritik bir ayrım yapılarak yüksek kapasiteli bir yapay genel zekanın geliştirilebilir olduğu ancak bilinç sahibi olamayacağı belirtiliyor.
Bu yaklaşım, gelecekte geliştirilecek sistemlerin “ahlaki özne” olarak değerlendirilmemesi gerektiği anlamına geliyor. Yani en gelişmiş yapay zeka bile, insan benzeri bir bilinç ya da hak talebiyle ilişkilendirilmeyecek.
