ChatGPT Konuşmalarının Yüzlerce Çalışan Tarafından İncelendiği İddia Ediliyor

OpenAI’ın ChatGPT’yi geliştirmek amacıyla gerçek kullanıcıların sohbetlerini insan çalışanlara incelettiği ortaya çıktı. 404 Media tarafından yayımlanan bir iddiaya göre, şirket bünyesindeki “Project Lily” adlı çalışma kapsamında yüzlerce çalışan, ChatGPT kullanıcılarının gerçek konuşmalarını inceleyerek yapay zekanın verdiği yanıtları değerlendiriyor.

Haberi okuduğunuz için teşekkürler, bizi takip etmeyi unutmayın!

Kişisel Bilgiler de Görülebiliyor

İddiaya göre, OpenAI çalışanları ChatGPT yanıtlarını doğruluk, üslup ve davranış açısından puanlıyor. Raporda öne çıkan nokta, incelenen sohbetlerin gerçek kullanıcılarla ilgili olması ve çalışmanın özellikle yapay zekanın kullanıcıları gereğinden fazla onaylamasına yol açan “sycophancy” davranışını azaltmaya odaklanmasıdır.

OpenAI, kullanıcı adlarını kaldırıp kişisel bilgileri gizlemeye çalışsa da, hassas verilerin her zaman tamamen temizlenemediği iddia ediliyor. Bu nedenle bazı çalışanların yalnızca tek bir soruyu değil, kullanıcı ile ChatGPT arasındaki uzun konuşmaların tamamını görebildiği öne sürülüyor.

Raporda yer alan değerlendirmeye göre, kullanıcıların çoğu sohbetlerinin bir noktada bir taşeron çalışan tarafından incelenebileceğini düşünmeyebilir. Buradaki temel konu, yapay zekanın eğitilmesinde yalnızca internet üzerindeki büyük veri kümelerinin kullanılmaması gerektiği ve insan değerlendirmesinin modern yapay zeka sistemlerinin geliştirilmesinde önemli bir aşama olduğu yönündedir.

İnsanlar tarafından verilen puanlar ve geri bildirimler, modellerin nasıl yanıt vermesi gerektiğinin belirlenmesine yardımcı oluyor. Ancak gerçek kullanıcı konuşmalarının bu süreçte kullanılması, gizlilik ve kullanıcıların bilgilendirilmesi konularını yeniden gündeme getiriyor.

Özellikle kişisel bilgiler içeren sohbetlerin insan çalışanlar tarafından görülebilmesi, yapay zeka hizmetlerinde veri gizliliğinin ne kadar önemli olduğunu bir kez daha kanıtlıyor. Yeni iddia, şu an için 404 Media’nın OpenAI belgelerine ve görüştüğü kaynaklara dayanıyor. Dolayısıyla söz konusu uygulamanın kapsamı ve hangi sohbetlerin ne şekilde incelendiği konusunda OpenAI’ın açıklaması belirleyici olacak.