Anthropic, Claude’un Biyolojik Silah Araştırmalarında Kullanıldığını Bildirdi

Anthropic, Claude yapay zeka modellerinin biyolojik silah geliştirmeye yönelik araştırmalarda kullanıldığı beş vakayı tespit ederek müdahale ettiğini açıkladı. Şirket, bu örneklerin modellerin bilimsel araştırmalardaki yetenekleri arttıkça kötüye kullanım riskinin de büyüdüğünü gösterdiğini belirtiyor.

Haberi okuduğunuz için teşekkürler, bizi takip etmeyi unutmayın!

Claude ile tehlikeli biyolojik araştırmalar gerçekleştirildi

Perşembe günü yayımlanan kapsamlı raporda, Anthropic’in modellerinin biyolojik silah geliştirme potansiyeli taşıyan çalışmalar için kullanıldığı beş farklı vaka ele alınıyor. Raporda, şüpheli kullanımın tespit yöntemleri, devreye giren güvenlik önlemleri ve şirketin sonrasında attığı adımlar da detaylandırılıyor.

Anthropic’e göre sorun, bilimsel araştırma ile kötüye kullanım arasındaki sınırın her zaman belirgin olmamasıdır. Örneğin, yeni bir aşı geliştirme amacıyla yapılan bir çalışma, biyolojik silah üretimine yönelik araştırmalarla yöntemsel olarak benzerlik gösterebilir. Bu nedenle, şirket olası sonuçların ciddiyetini göz önünde bulundurarak şüpheli durumlarda daha temkinli bir yaklaşım benimsediğini belirtiyor.

Chikungunya virüsü için dikkat çeken talep

Vakalardan biri mayıs ayında tespit edildi. Anthropic’in biyolojik güvenlik sınıflandırıcısı, Claude’dan chikungunya virüsü üzerinde işlev kazanımı araştırması için hibe başvurusu hazırlanmasının talep edildiğini rapor etti.

İşlev kazanımı araştırmaları, bir organizmanın belirli özelliklerini genetik ya da biyolojik yöntemlerle değiştirmeyi amaçlar. Bu özel çalışmada, chikungunya virüsünün bulaşma kapasitesini artırmak ve bağışıklık yanıtından kaçma yeteneğini geliştirmek hedeflenmişti.

Anthropic, chikungunya için lisanslı bir tedavinin olmadığını ve enfeksiyonun haftalar, hatta aylar boyunca ciddi, güçten düşürücü belirtiler yaratabileceğini belirtti. Ayrıca, araştırmanın bir askeri araştırma kuruluşuyla bağlantılı olması vakayı daha şüpheli kıldığını ifade etti.

Başka bir vaka, bir araştırmacının Claude’u kullanarak zehirlerdeki toksin peptitlerinin atlasını oluşturduğunu ve toksinlerin özelliklerini geliştirmeye yönelik üretken bir süreç tasarladığını gösterdi.

Raporda, Anthropic’in modellerinin biyolojik tehditlere ek olarak gözetim, yazılım açıklarından yararlanma, propaganda üretimi ve silah sistemleri gibi farklı amaçlarla kullanılmasına dair vakalar da yer alıyor.

Şüpheli hesaplar kapatıldı

Anthropic, soruşturmalarda modellerini kötüye kullandığı tespit edilen kişilerin hesaplarını yasakladığını ve elde edilen bulguları Claude’un güvenlik sistemlerini güçlendirmek amacıyla kullandığını açıkladı.

Ancak, şirket rapordaki kişilerin veya kurumların isimlerini açıklamadı; temel gerekçe, ilgili araştırmacıların gerçek bir zarar verme niyetine sahip olduklarının kesin olarak kanıtlanamamasıdır. Öte yandan, şirket kendi güvenlik sistemlerini de güçlendirdiğini vurguladı.