Yapay zeka uzaylıları bulabilir mi? Çok fazla güvenmeyin!

Uzayda ömür arayışı, insanlığın binlerce yıldır sonuç bulamadığı en büyük eforlardan biri olarak varlığını sürdürüyor. Günümüzde bilim insanları, devasa bilgi setlerini saniyeler içinde tarayabilen AI sistemlerini bu arayışta başrol oyuncusu olarak konumlandırıyor. Lakin bu teknolojik inanç, beklenmedik riskleri de beraberinde getiriyor. Yakın tarihli bir araştırma, AI sistemlerinin ömür belirtilerini tespit etme konusunda göründüğü kadar kusursuz olmadığını gösterdi.

Haberi okuduğunuz için teşekkürler, bizi takip etmeyi unutmayın!

Michigan Eyalet Üniversitesi’nden Ankit Gupta ve Christoph Adami, AI sistemlerinin dış dünyadaki ömrü tanımlama kapasitesini test etmek için enteresan bir deney tasarladı. Araştırmacılar, Avida isimli bir program aracılığıyla oluşturulan dijital organizmaları kullandı. Birinci etapta AI, canlı olan ve olmayan organizmaları yüzde 99,97 üzere epeyce yüksek bir doğruluk hissesiyle birbirinden ayırdı. Fakat işin rengi, araştırmacıların kodlarda küçük oynamalar yapmasıyla değişti.

Gupta ve grubu, AI sistemine büsbütün cansız olan bir organizmayı sunarak başladılar. Akabinde bu kod üzerinde yalnızca 150 küçük değişiklik yaptılar. Sonuç şaşırtıcıydı: AI, gerçekte kendi kendini kopyalamayan ve hiçbir hayat belirtisi göstermeyen bu kodu, canlı bir organizma olarak sınıflandırdı. Sistem, daha evvel eğitildiği tüm standartları bir kenara bırakıp manipülasyona boyun eğdi. Bu durum, eğitim süreci kusursuz görünen algoritmaların bile dış müdahalelere yahut aldatıcı datalara karşı ne kadar savunmasız kaldığını kanıtlıyor.

Veri sürece süreçlerinde insan faktörü şart

Yaşanan bu sorun yalnızca dijital organizmalarla hudutlu değil. The Planetary Science Journal bünyesinde yayımlanan diğer bir çalışma, Southwest Araştırma Enstitüsü’nün Ay kraterlerini sınıflandıran bir AI modelini inceledi. Ortaya çıkan dataların, insan standartlarına nazaran epeyce düşük kaliteli ve yanılgılı olduğu belirlendi. AI, büyük ölçekli bilgi yığınlarını süratli sınıflandırsa da, kelam konusu hassas bilimsel ayrıntılar olduğunda aldatıcı sonuçlar doğurabiliyor.

Profesör Christoph Adami, bu sistemlerin gördükleri bir örüntüyü büsbütün yanlış yorumlayabilmesinin en büyük zayıflıkları olduğunu tabir ediyor. Milyarlarca dolarlık bütçelerle uzayın derinliklerinde ömür izi arayan ajanslar için bu durum önemli bir alarm demek. Uzmanlar, makinelerin suratına güvenilse bile, tahlil süreçlerinde insan gözünün ve kontrolünün hala vazgeçilmez bir öge olduğu konusunda birleşiyor.

Gupta ve Adami, bir sonraki adımlarında dijital datalardan sıyrılıp, bu deneyleri gerçek hayat örnekleri üzerinde uygulamayı hedefliyor.