Copilot yeni bir skandala karıştı: Microsoft çalışanları kullanıcı fotoğraflarını görüyor

Microsoft’un Windows kullanıcılarına adeta zorla dayattığı yapay zekâ aracı Copilot, bu hafta yeni bir skandalla gündemde. 404 Media tarafından incelenen şirket içi belgeler, Copilot’a yüklenen bazı fotoğrafların, kullanıcıların yazdığı istemlerle birlikte insan çalışanların önüne gidebildiğini gösteriyor. Copilot’ın istenen görüntü düzenlemesini ne kadar başarılı gerçekleştirdiğini değerlendirmesi istenen insan çalışanlar, bazen kullanıcıların en mahrem fotoğraflarını bile inceleyebiliyor.

Haberi okuduğunuz için teşekkürler, bizi takip etmeyi unutmayın!

Copilot’ın ürettiği görüntüleri insanlar değerlendiriyor

Yapay zeka modellerinin eğitimi sürecinde insan değerlendirmesi yeni bir uygulama değildir. Geri bildirimler, modellerin hangi yanıtlarının veya görsellerinin daha etkili olduğunu tespit etmek ve sistemleri zaman içinde geliştirmek amacıyla uzun yıllardır kullanılmaktadır. Fakat Microsoft’un kullanıcıların en mahrem fotoğraflarını bile bu şekilde toplayıp kullanması, şirketin vadettiği mahremiyet kurallarına aykırıdır.

404 Media’nın incelediği belgeler ve çalışanlarla yapılan görüşmelerde, değerlendirme sürecine dahil edilen bazı görevlerde cinsel içerikli veya rahatsız edici materyallerin yer aldığı ortaya çıktı. Örneğin, bir kadın kullanıcının göğüslerini büyütmek için üstsüz bir fotoğrafını Copilot’a yüklediğinde, bu görüntü insan çalışanların gözünden kaçmıyor. 404 Media’ya konuşan bir çalışan, bu olayı örnek vererek deneyimlerini paylaştı. Gizli çekilmiş etek altı fotoğraflar, istismara yol açabilecek içerikler ve hatta çocuk karakterlerin cinselleştirilmesini talep eden istemler, Microsoft çalışanlarının karşısına çıkan kullanıcı istekleri arasında bulunuyor. Bu durum, artık çalışanları da rahatsız etmeye başlamış durumda.

Çoğu kullanıcı, kendisinin, bir aile fertinin ya da tanıdığının fotoğrafını Copilot’a yüklediğinde, bu görüntünün yalnızca kendisi ile yapay zeka sistemi arasında kalacağını düşünür. Fakat ortaya çıkan belgeler, bu varsayımın aksine, başka kişilerin de bu fotoğraflara erişebildiğini gösteriyor. Bu durumun, kullanıcıların Copilot’a duyduğu güveni sarsacağı öngörülüyor. Nitekim, zaten şimdiden tepkiler gelmeye başlamış durumda.