Meta’dan görünmez filigran atağı: AI görseller artık saklanamayacak

Meta, yeni yapay zekâ görüntü üretme modeli Muse Image ile oluşturulan görsel ve görüntüleri tespit edebilen yeni bir araç üzerinde çalışıyor. Şirket, internet üzerinden çalışan bu sistemin birinci ön izlemesini paylaştı. Araç, Muse Image tarafından üretilen içeriklere eklenen görünmez filigranları tespit edebiliyor.

Haberi okuduğunuz için teşekkürler, bizi takip etmeyi unutmayın!

Meta’nın “Content Seal” ismini verdiği bu sistem, görsel kırpılsa, sıkıştırılsa, yine boyutlandırılsa ya da ekran imajı alınsa bile filigranı koruyor. Şirket, bu sayede kullanıcıların bir görselin Meta AI ile üretilip üretilmediğini daha kolay anlayabileceğini söylüyor.

Görünür logo yerine görünmez filigran

Meta, evvelki yapay zekâ araçlarında görsellerin köşesine küçük bir logo ekliyordu. Muse Image ise farklı bir metot kullanıyor. Yeni modelde görünür işaret yerine sadece sistem tarafından okunabilen görünmez bir filigran bulunuyor.

Şirket, daha evvel bu teknolojinin açık kaynaklı sürümlerini paylaşmıştı. Lakin Muse Image ile kullanılan Content Seal sistemi Meta’ya özel olarak geliştirildi.

Sırada yapay zekâ görüntüleri var

Şimdilik Content Seal sırf Muse Image ile oluşturulan yahut düzenlenen görsellerde çalışıyor. Meta, bu sistemi yakında yapay zekâ ile hazırlanan ve düzenlenen görüntülere da getirmeyi planlıyor.

Şirket ayrıyeten Muse Video ismini taşıyan yeni video üretim modeli üzerinde de çalıştığını açıkladı. Bu modelin yakında kullanıma sunulması bekleniyor.

Testlerde ekran imajlarını bile tanıdı

Yapılan testlerde araç, Muse Image ile oluşturulan ve düzenlenen görselleri gerçek formda tespit etti. Sistem, bu görsellerin ekran imgelerinde de görünmez filigranı bulmayı başardı.

Meta’ya nazaran olumlu sonuç alınması, görselin Meta AI uygulaması yahut meta.ai üzerinden oluşturulduğunu ya da düzenlendiğini gösteriyor. Olumsuz sonuç ise içeriğin Meta AI ile hazırlanmış olma ihtimalinin düşük olduğu manasına geliyor.

Meta AI uygulamasında şimdi yer almıyor

İlginç olan nokta ise bu özelliğin Meta AI uygulamasına şimdi eklenmemiş olması. Birebir görsel uygulamadaki yapay zekâ asistanına sorulduğunda, sistem bunun Meta AI ile oluşturulup oluşturulmadığını belirleyemediğini söylüyor.

Bu da tespit aracının şimdilik sadece web sürümünde kullanılabildiğini gösteriyor.

Eski içerikleri tespit edemiyor

Yeni sistemin kimi değerli hudutları da bulunuyor. Content Seal, Google’ın SynthID sistemi yahut C2PA Content Credentials standardıyla uyumlu çalışmıyor.

Ayrıca araç, Meta’nın eski yapay zekâ modelleriyle oluşturulan görselleri de tespit edemiyor. Eski sohbetlerde hazırlanan görseller sisteme yüklendiğinde, bunların Meta AI tarafından oluşturulup oluşturulmadığı belirlenemedi.

Bunun yanında araçta günlük kullanım hududu da bulunuyor. Kısa mühlet içinde çok sayıda görsel yüklendiğinde sistem, günlük tespit hakkının dolduğunu belirten bir ikaz gösteriyor.

Meta daha evvel de eleştirilmişti

Meta, yapay zekâ içeriklerini etiketleme konusunda daha evvel de tenkitlerin gayesi olmuştu. Şirketin bağımsız denetim kurulu, bu yıl yayımladığı değerlendirmede Meta’nın kendi yapay zekâ içeriklerinde dijital filigran kullanımını dengeli halde uygulamadığını belirtmişti.

Yeni Content Seal sistemi, bu tenkitlerin akabinde Meta’nın yapay zekâ içeriklerini daha kolay ayırt edilebilir hale getirmek için attığı yeni adımlardan biri olarak öne çıkıyor.