Meta’nın yeni AI asistanı Muse neden ‘ürkütücü’ olarak nitelendirildi?

Meta’nın son yapay zekâ asistanı Muse, kullanıcıların bilgisayarındaki uygulamalarla etkileşime girebiliyor. Bu yetenek, beklenmedik bir gizlilik tartışmasına yol açtı. Bir kullanıcı, Muse’un izni olmayan özel mesajlar hakkında bilgi sahibi olduğunu gözlemledi. Meta’nın yanıtı, sorunun başka bir noktada olduğunu gösterdi: Muse, kendi çalışma mekanizmasını net bir şekilde açıklayamıyordu.

Haberi okuduğunuz için teşekkürler, bizi takip etmeyi unutmayın!

Inc. yazarı Jason Aten, Muse’u iPhone ve Mac bilgisayarına kurduktan sonra bir süre kullandı. Daha sonra podcast sunucusu Steven Robles ile yeni iPhone hakkında mesajlaşırken Muse’dan ilginç bir bildirim aldı.

Muse, Robles ile yapılan sohbetin bir yazı için uygun bir konu olabileceğini belirtti ve araştırma konusunda destek sunmayı önerdi.

Sorun burada başladı; Aten, Muse’a mesajlarına erişim izni verdiğini hatırlamıyordu.

Muse, mesajları nasıl görebildiğini açıklayamadı.

Aten, Muse’a konuşmanın içeriğini nasıl öğrendiğini sordu. Yapay zekâ asistanı, önce mesaj geçmişini okumadığını, sadece bildirim önizlemelerini gördüğünü belirtti.

Muse, Mac uygulamasının bildirimlerini cihaz eşitleme sistemi aracılığıyla kendisine aktardığını öne sürdü. Ancak bu işlemin hangi macOS ayarı üzerinden gerçekleştiğini açıklayamadı.

Meta, bu açıklamanın yanlış olduğunu belirtti.

Meta Superintelligence Labs yöneticisi David Singleton, Muse’un Mac’teki bildirimleri izlediğini iddia etmediğini söyledi.

Singleton’a göre sistem, yalnızca kullanıcı özel izin verdiğinde Messages uygulamasındaki verileri eşitliyor.

Başka bir deyişle Muse, çalışma prensibini açıklamaya çalışırken gerçekte var olmayan bir mekanizma sundu.

Meta: Muse yanlış bilgi verdi.

Singleton, Messages entegrasyonunun isteğe bağlı olduğunu vurguladı. Muse’un mesaj içeriğine erişebilmesi için Mac uygulamasına gerekli sistem izinlerinin verilmesi ve mesaj bağlantısının etkinleştirilmesi şart.

Meta’ya göre Muse’un “bildirimleri görüyorum” ifadesi yanlıştı. Yapay zekâ asistanı, sistemin işleyişini açıklarken hatalı bilgi sağladı.

Şirket, Muse’un kendi özellikleri ve çalışma mekanizmasıyla ilgili sorulara daha doğru yanıtlar sunabilmesi için sistemi geliştireceğini duyurdu.

Fakat Aten, gerekli izinleri verdiği konusunda Meta ile aynı görüşte değil. Teknoloji yazarı, Mac’te tam disk erişimini etkinleştirmediğini ve mesajlarının okunmasına açık izin verdiğini hatırlamadığını belirtiyor.

Dolayısıyla, izin konusundaki anlatım iki farklı görüş içeriyor. Meta, mesaj erişiminin kullanıcı tarafından etkinleştirilmesi gerektiğini öne sürerken Aten, böyle bir iznin verilmediğini iddia ediyor.

Sorun sadece mesaj erişiminden ibaret değil.

Olay, yapay zekâ asistanlarının giderek artan kişisel veri erişimiyle ilgili başka bir sorunu da ortaya koyuyor.

Yeni nesil yapay zekâ ajanları e-postaları okuyabiliyor, takvimleri kontrol edebiliyor, dosyalara erişebiliyor ve bilgisayardaki uygulamalarla etkileşimde bulunabiliyor. Bu sistemlerin hangi veriyi nereden topladığını kullanıcıya doğru bir şekilde açıklaması kritik öneme sahip.

Muse örneğinde ise yapay zekâ, veri kaynağı konusunda hatalı bir açıklama sundu. Bu durum kullanıcı açısından iki temel soruyu gündeme getiriyor: Yapay zekâ hangi verilere erişiyor ve kullanıcı sorusu yönelttiğinde aldığı yanıta ne ölçüde güvenebilir?

Meta, Muse’un çalışma mekanizmasıyla ilgili sorulara daha tutarlı ve doğru yanıtlar sunabilmesi için değişiklik yapmayı planlıyor.