ChatGPT’de şiddet ihlaline karşı OpenAI’dan ebeveynlere erken ihtar

OpenAI, ChatGPT kullanan ergenlere yönelik güvenlik önlemlerini genişleterek, şiddetle ilgili kullanım politikalarını ihlal ettiği gerekçesiyle hesabı devre dışı bırakılan genç kullanıcıların ebeveynlerini bilgilendirmeye başlayacağını duyurdu. Şirketin geçen yıl kullanıma sunduğu ebeveyn kontrollerine bağlı hesaplar üzerinden çalışacak yeni sistem, çocuklarının başkalarına yönelik olası risk oluşturabilecek davranışları tespit edildiğinde ebeveyn veya velilere uyarı gönderilmesini amaçlıyor. Böylece daha önce ağırlıklı olarak kendine zarar verme riskine odaklanan bildirim mekanizması, çevrimiçi şiddet tehditlerini de kapsayacak şekilde genişletilmiş oldu.

OpenAI, ChatGPT ebeveyn bildirimlerini şiddet ihlalleri için genişletiyor

Haberi okuduğunuz için teşekkürler, bizi takip etmeyi unutmayın!

OpenAI, ebeveyn kontrollerini ilk kez devreye aldığında ailelere çocuklarının ChatGPT kullanımını belirli saatlerle sınırlandırma, hassas içeriklerin görünürlüğünü azaltma ve olası kendine zarar verme belirtilerine ilişkin bildirim alma gibi araçlar sunmuştu. Yeni güncellemeyle birlikte bu güvenlik katmanına, şiddet eylemleri veya çevrimiçi şiddet tehditleriyle bağlantılı politika ihlalleri de eklendi.

OpenAI’nin paylaştığı örnek senaryoda ebeveynlere, çocuklarının hesabıyla ilgili “önemli bir güncelleme” başlıklı bir bildirim gönderiliyor. Bildirimde yer alan “Daha Fazla Bilgi Edinin” seçeneğine tıklandığında ise hesabın Şiddet Eylemleri politikalarını ihlal ettiği gerekçesiyle devre dışı bırakıldığı bilgisi aktarılıyor. Şirket, bu yöntemin ebeveynlere yalnızca bir uyarı göndermekle kalmayıp durumun kapsamını anlamalarına yardımcı olacak ek bağlam sağlamayı hedeflediğini belirtiyor.

Yeni özelliğin geliştirilme sürecinde OpenAI, çevrimiçi şiddetin izlenmesi ve önlenmesi konusunda faaliyet gösteren Moonshot adlı kuruluşla iş birliği yaptı. Moonshot’un kurucusu Vidhya Ramalingam, ciddi bir güvenlik endişesi ortaya çıktığında ebeveynlerin bilgilendirilmesinin ailelere erken harekete geçme ve gerekli desteği arama fırsatı sunduğunu ifade etti. Ramalingam’a göre bu bildirim sistemi, genç kullanıcıların yapay zekâ araçlarını daha güvenli biçimde kullanabilmesi için oluşturulan koruma katmanlarından yalnızca biri olarak görülüyor.

Şirket, ebeveyn bildirimlerinin kapsamını genişletmenin yanı sıra genç kullanıcıların platformu daha bilinçli kullanmasını hedefleyen yeni araçları da devreye aldı. Bunlardan biri olan Çalışma Modu artık doğrudan ebeveyn kontrolleri üzerinden etkinleştirilebiliyor. Bu mod, ChatGPT’nin doğrudan yanıt vermek yerine önce yönlendirici ipuçları sunmasını sağlayarak öğrencilerin öğrenme sürecine daha aktif katılım göstermesini amaçlıyor. Ayrıca uzun süre ChatGPT kullanan genç hesaplara daha sık mola hatırlatmaları gönderilecek olması, ekran süresi yönetimi ve sağlıklı teknoloji alışkanlıkları konusunda yapay zekâ platformlarının daha fazla sorumluluk üstlenmeye başladığını gösteriyor.