Claude’un görünmez işaretleriyle Anthropic, metin ve dosyalara filigran eklemeye hazırlanıyor

Anthropic, Claude modelleriyle üretilen metin ve dosyalara filigran ekleme planı yapıyor. Şirket, bu sistem sayesinde yapay zeka tarafından oluşturulan içeriklerin kaynağını tespit etmeyi kolaylaştırmayı hedefliyor. Yeni uygulama, aynı zamanda Avrupa Birliği’nin yapay zeka içeriklerine yönelik şeffaflık kurallarına uyum sağlamayı da amaçlıyor.

Haberi okuduğunuz için teşekkürler, bizi takip etmeyi unutmayın!

AB’nin yapay zeka üretim içeriklerine ilişkin şeffaflık kuralları, firmaları kullanıcıları yapay zeka kullanımından haberdar etmeye zorlayıyor. Kurallar ayrıca yapay zeka içeriklerinin işaretlenmesini ve deepfake gibi içeriklerin kullanıcılar tarafından anlaşılabilir olmasını amaçlıyor.

Claude, metinlere görünmez izler ekleyecek

Klasik filigranlardan farklı olarak Claude’un metinlere yerleştireceği işaretler insan gözüne görünmeyecek. Sistem, harfler, kelimeler ve metnin yapısı içine makinelerin algılayabileceği sinyaller gömecek.

Anthropic, bu işaretlerin kullanıcı metni Windows Not Defteri veya macOS TextEdit gibi uygulamalara kopyalayıp yapıştırsa bile korunacağını belirtiyor. Bazı düzenlemeler filigranı tamamen ortadan kaldırmayabilir.

Şirket, 2 Ağustos’tan itibaren piyasaya sunduğu Claude modellerinde filigran sistemini kullanacağını duyurdu. Uygulama yalnızca AB ülkeleriyle sınırlı kalmayacak; Claude’un desteklendiği tüm bölgelerde geçerli olacak.

Sistem, Claude, Claude API, Claude Code, Claude Cowork ve Claude Tag üzerinden üretilen içerikleri kapsayacak. Anthropic, filigranların tespit yöntemleriyle ilgili ayrıntıları ileride açıklayacak.

Görseller için ayrı bir yöntem uygulanacak

Claude, yalnızca metinleri değil, oluşturduğu SVG, PNG ve JPG dosyalarını da işaretleyecek. Ancak görsellerde metinlerden farklı bir yöntem kullanılacak.

Claude’un ürettiği görseller, kaynağı ve dosyada yapılan değişiklikleri içeren imzalı kaynak verilerini taşıyacak. Kriptografik imza, birinin bu bilgileri değiştirmeye veya gizlemeye çalışması durumunda bozulacak, böylece sistem dosyada oynama yapıldığını tespit edebilecek.

Filigran, içeriğin tamamen yapay zekaya ait olduğunu kanıtlamaz

Anthropic, sistemin önemli bir sınırına dikkat çekiyor: Bir metinde Claude filigranının bulunması, içeriğin tamamının yapay zekanın oluşturduğu anlamına gelmez.

Örneğin, bir kişi kendi yazdığı metni Claude’a verip yalnızca yeniden düzenlemesini isteyebilir. Claude’un ürettiği yeni metin filigran taşısa da fikirler ve bilgiler insanın kendisine ait olabilir. Benzer durum çeviri, özetleme ve metin düzeltme işlemlerinde de görülebilir.

Tersi de mümkündür: Bir içerikte filigran yoksa, Claude’un o içerikte hiç kullanılmadığını kesin olarak söyleyemeyiz.

Anthropic’e göre yapay zekanın katkısı az olduğunda veya kullanıcı metni yoğun biçimde düzenlediğinde filigran kaybolabilir. Metnin yeniden yazılması, çevrilmesi veya başka içeriklerle birleştirilmesi de işaretlerin tespitini zorlaştırır.

Görsellerde de benzer bir sorun var: Kullanıcı Claude’un oluşturduğu bir görselin ekran görüntüsünü alıp yeni bir dosya olarak kaydederse, orijinal dosyadaki kaynak bilgileri yeni görsele taşınmayabilir.

Yapay zeka tespiti hâlâ kesin sonuç vermiyor

Son dönemde yapay zeka içeriklerini işaretleme ve tespit etme sistemleri daha fazla platformda karşımıza çıkıyor. Ancak mevcut yöntemler her zaman doğru sonuç vermiyor; özellikle yapay zeka tespit araçları insan tarafından yazılmış bazı metinleri yanlışlıkla yapay zeka üretimi olarak değerlendirebiliyor.

Dolayısıyla Claude’un yeni filigran sistemi tek başına kesin bir kanıt sunmayacak. Sistem, içeriğin kaynağı hakkında ek bir sinyal sağlayacak.