Yapay zekâ alanında son dönemde dikkat çeken gelişmelerden biri de, büyük dil modellerinin ötesine geçerek doğrudan yazılım geliştirme süreçlerine dahil olan “AI kodlama ajanları”nın yükselişi oldu. Anthropic tarafından geliştirilen Claude Code gibi sistemler, geliştiricilere kod yazma, düzenleme ve hata ayıklama gibi konularda aktif destek sunarak kısa sürede büyük etki yaratmayı başardı. Ancak bu hızlı gelişim, bazı güvenlik risklerini de beraberinde getirdi. Nitekim son günlerde Anthropic cephesinde yaşananlar, bu risklerin somut bir örneği olarak karşımızda duruyor. Claude Code’un çalışma prensiplerini ve modelin nasıl davranması gerektiğini belirleyen temel talimat seti (kaynak kodları), geçtiğimiz günlerde internete sızdırıldı. Claude’un karmaşık kodlama görevlerini nasıl analiz edeceğini, hangi güvenlik protokollerini izleyeceğini ve geliştiriciyle nasıl bir etkileşim kuracağını belirleyen, bir anlamda aracın “beyni” diyebileceğimiz bu yönergelerin ortaya saçılması, Anthropic’i bir krizin ortasına attı. Çünkü bu sızıntı şirketin teknolojisini rakiplerine açarken, kötü amaçlı kişilere de olası açıkları tespit etme fırsatı verdi. Bu yüzden şirket bir haftadır bu bilgileri internetten temizlemek ve alabildiği kadar önlem almak için uğraşıyor.
Haberi okuduğunuz için teşekkürler, bizi takip etmeyi unutmayın!
Anthropic Yöneticisi: Siber Saldırı Değil, Bizim Hatamız
Başta bu sızıntının bir siber saldırının sonucu olduğu düşünülüyordu ama Anthropic’ten gelen son açıklama, durumun farklı olduğunu gösteriyor. Anthropic’te üst düzey bir yönetici olan Paul Smith’in yaptığı açıklamaya göre, Claude Code’a ait kaynak kodlarının yanlışlıkla sızdırılması herhangi bir siber saldırı ya da hackleme sonucu değil, tamamen şirket içi “süreç hatalarından” kaynaklandı. Smith, bu durumun özellikle Claude Code etrafında yürütülen son derece hızlı ürün geliştirme ve dağıtım süreciyle bağlantılı olduğunu belirtiyor. Yani sorun, dışarıdan gelen bir tehditten ziyade, içerideki operasyonel karmaşıklığın bir sonucu olarak ortaya çıkmış.
Ortaya çıkan detaylara bakıldığında, sızıntının kapsamının da oldukça geniş olduğu görülüyor. Yaklaşık 1.900 dosya ve 512.000 satır kodun istemeden erişime açıldığı belirtiliyor. Bu tür bir veri seti, sistemin nasıl çalıştığına dair kritik mimari bilgileri de içerebileceği için oldukça hassas kabul ediliyor.
Anthropic cephesinde yaşanan bu sızıntı, yapay zekâ şirketlerinin hızlı gelişim peşinde koşarken güvenlik konusunda ne kadar dikkatsiz davranabileceğini gözler önüne seriyor. Üstelik Anthropic normalde bu konuda en temkinli davranan şirketlerden biri olarak tanınıyor. Onlarda bile böylesine büyük hatalar olurken, OpenAI ve xAI gibi şirketlerin sebep olabileceği “hataları” düşünmek korkutucu olabiliyor.
Anthropic ise sorunun yapay zekâya devredilen görevlerde değil, hâlâ işin içinde olan insanlardan kaynaklandığını savunuyor. Claude Code’un geliştiricilerinden Boris Cherny sosyal medya üzerinden yaptığı açıklamada, sorunun dağıtım sürecindeki manuel adımlardan birinin yanlış uygulanmasından kaynaklandığını ifade etti. Cherny’ye göre mevcut sistemde hâlâ insan müdahalesi gerektiren bazı aşamalar bulunuyor ve bu da hata payını artırıyor. Bu yüzden şirket şimdi otomasyon süreçlerini daha da geliştirmeye çalışıyor. Cherny, otomasyonun artırılmasının bu tarz hataları azatacağını savunuyor.
