Anthropic, Biyolojik Silah Geliştirme İddiasıyla Bilim İnsanlarının Claude Erişimini Kesti

Yapay zeka modelleri bilimsel alanlarda giderek daha yetkin hale geldikçe, yasal araştırmalar ile tehlikeli uygulamalar arasındaki sınırın çizilmesi zorlaşıyor. Anthropic’in yeni raporu, modellerini biyolojik silah geliştirme amacıyla kullandığı iddia edilen bazı bilim insanlarını belirleyip erişimlerini kestiğini ortaya koyuyor.

Haberi okuduğunuz için teşekkürler, bizi takip etmeyi unutmayın!

Raporda, biyolojik kötüye kullanıma ilişkin beş ayrı vaka yer alıyor. Anthropic, bu örneklerde modellerinin nasıl kullanıldığını, hangi güvenlik sistemlerinin şüpheli faaliyetleri tespit ettiğini ve şirketin sonrasında nasıl müdahale ettiğini ayrıntılı olarak anlattı.

Ancak şirketin de vurguladığı üzere bu alan oldukça karmaşık. Yeni bir aşı geliştirmeye yönelik araştırma ile biyolojik silah geliştirmeye dönük çalışma, kullanılan yöntemler bakımından zaman zaman birbirine benzeyebiliyor. Bu nedenle Anthropic, olası sonuçların ciddiyetini dikkate alarak şüpheli durumlarda daha temkinli hareket ettiğini belirtiyor.

Mayıs ayında yaşanan vakalardan birinde Anthropic’in biyolojik güvenlik sınıflandırıcısı, Claude’dan chikungunya virüsü üzerinde işlev kazandırma araştırması için bir hibe başvurusu hazırlamasının istendiğini tespit etti. Söz konusu çalışma, virüsün genetik özelliklerini değiştirerek bulaşıcılığını ve bağışıklık sisteminden kaçma kapasitesini artırmayı öneriyordu. Anthropic’e göre araştırmanın bir askeri araştırma enstitüsüyle bağlantılı olması da durumu daha şüpheli hale getirdi.

Şirket benzer biçimde kuş gribi üzerine yapılan işlev kazandırma araştırmalarını da incelemeye aldı. Bir başka vakada ise Claude’un zehir toksin peptitlerinden oluşan bir atlas hazırlamak ve toksin özelliklerini optimize eden üretken bir sistem geliştirmek amacıyla kullanıldığı belirtildi.

Sorun yalnızca biyolojik araştırmalarla sınırlı değil

Anthropic’in raporu, modellerin farklı riskli alanlarda da kullanıldığını gösteriyor. İncelenen vakalar arasında gözetim amacıyla kullanım, yazılım açıkları geliştirme, propaganda üretme ve silah sistemleriyle bağlantılı çalışmalar da bulunuyor.

Şirket, Claude veya diğer Anthropic modellerini kötüye kullandığı değerlendirilen hesapların kapatıldığını açıkladı. İncelemelerden elde edilen bulguların ise gelecekte benzer faaliyetleri daha erken tespit etmek ve güvenlik önlemlerini geliştirmek için kullanılacağı belirtildi.

Anthropic, biyolojik kötüye kullanım vakalarında adı geçen kişileri veya kurumları kamuoyuyla paylaşmadı. Şirket, vakalarda yer alan kişilerin çalışan bilim insanları olduğunu, doğrudan zarar verme niyetinde olduklarını iddia etmediklerini ve kimliklerinin açıklanmasının bu kişileri ya da laboratuvarlarını riske atabileceğini ifade etti.

Anthropic Tehdit İstihbaratı Başkanı Jacob Klein da bu tür olayların açık biçimde kötü niyet içeren taleplerden ibaret olmadığını, çoğu vakanın çok daha karmaşık ve yoruma açık olduğunu belirtiyor.