Yapay Zeka Araçları: Tehlikeli Sorular ve Güvenlik Kaygısı

Popüler yapay zeka araçlarının sunduğu imkanlar, tehlikeli soruları da beraberinde getiriyor. Wall Street Journal internet sitesinde yer bulan detaylı bir rapora göre, geçtiğimiz yılın yaz aylarında yüzlerce kişi ChatGPT platformuna zehir ve biyolojik silah imalatına dair kritik sorular yöneltti.

Haberi okuduğunuz için teşekkürler, bizi takip etmeyi unutmayın!

Biyolojik silah araştırmacıları, politika danışmanları ve yapay zeka sektöründen mevcut ile eski çalışanların beyanlarına dayanan incelemede, tespit edilen ihlallerin büyük kısmının zehir üretimi odaklı olduğu görüldü. Kullanıcıların sohbet robotuyla gerçekleştirdiği bu diyaloglar daha sonra savunma uzmanları ve bilim insanları tarafından mercek altına alındı. Yapılan değerlendirmeler sonucunda, sistemin verdiği bazı yanıtların ölümcül derecede doğru ve yol gösterici nitelikte olduğu saptandı.

İncelemeye giren kayıtlarda, yapay zekanın karmaşık talimatları bir lise öğrencisinin dahi anlayabileceği düzeyde ve son derece sabırlı bir dille anlattığı göze çarptı. Kuralları çiğneyen kullanıcıların hesapları anında kapatılsa da konunun resmi makamlara iletilmediği iddia ediliyor. OpenAI yetkilileri ise iddialara yanıt vermekte gecikmedi. Şirket, fiziki dünyada somut bir tehdit barındıran ve inandırıcı bulunan taleplerin kolluk kuvvetlerine bildirildiğini savundu. Sistemlerin zararlı istekleri reddedecek alt yapıya sahip olduğunu hatırlatan firma yetkilileri, biyolojik bilgi edinme çabalarını tespit edip engellediklerini ifade etti.

Yapay zeka araçlarının kötü niyetli gruplara rehberlik etmesi meselesi aslında ilk kez yaşanmıyor. New York Times gazetesinde çıkan farklı bir haberde, Boko Haram üyelerinin motosikletlerini havaya sıçrayacak şekilde değiştirmek için bir sohbet robotundan yardım aldığı ve bu yöntemle eylem düzenlediği öne sürülmüştü. Ancak günümüzde asıl tehdit çok daha farklı bir boyuta evrildi. Güvenlik sınırları kaldırılmış açık kaynaklı modellerin denetimsizce yayılması yeni endişeleri beraberinde getiriyor. Güvenlik kısıtlamalarını aşma yöntemlerinin de eş zamanlı olarak ilerlediğine dikkat çeken uzmanlar, bu teknolojilerin gelecekte tehlikeli odakların eline geçme riskine karşı uyarılarda bulunuyor.

Özellikle güvenlik duvarları ve kontrolden çıkan modeller, yapay zeka sektörünün yeni endişelerini oluşturuyor. Yapay zeka araçlarının kötü niyetli gruplara rehberlik etmesi, gelecekte tehlikeli odakların eline geçme riskini artırıyor. Bu nedenle, yapay zeka sektörünün güvenlik önlemlerini güçlendirerek, bu teknolojilerin tehlikeli odakların eline geçme riskini azaltmaya çalışması gerekiyor.