Grok Yalnızca Uygunsuz İçerikler için Kullanılıyor

xAI tarafından geliştirilen Grok sohbet botu, öbür yapay zeka şirketlerine kıyasla daha az kısıtlamaya sahip olmasıyla dikkat çekiyor. Yeni bir rapora nazaran, bu strateji şirketin kullanıcı trafiğinin büyük bir kısmını direkt etkiliyor.

Haberi okuduğunuz için teşekkürler, bizi takip etmeyi unutmayın!

The Information tarafından yayınlanan rapora nazaran, Grok üzerindeki trafiğin yarısından fazlası NSFW yani uygunsuz içeriklerden oluşuyor. İki eski xAI çalışanına dayandırılan bilgiler, kullanıcıların sohbet botunu erotik içerik üretmek ve yetişkinlere yönelik rol yapma sohbetleri için yoğun bir halde kullandığını ortaya koyuyor.

Grok Kullanımında Beklenmedik Eğilimler

Kullanıcıların, kod yazmak için tasarlanmış modellerin daha uygun maliyetli olduğunu keşfettikleri ve bu modelleri pornografik içerik üretmek için kullandıkları belirtiliyor. Şirket içi tahliller, kodlama modeline gelen isteklerin değerli bir kısmının çıplak imaj yahut pornografik içerik talebi olduğunu gösteriyor.

SpaceX, yatırımcılarına Grok’un daha kural tanımaz özelliklerinin bir risk oluşturabileceğini bildirmiş durumda. Şirket, muhtemel yasal süreçler için 530 milyon dolarlık bir bütçe ayırdığını açıkladı.

Şirket İçi Zorluklar ve Gelecek Riskleri

xAI mühendisleri, bir yandan kullanıcıların cinsel içerikli sohbet taleplerini yönetmeye çalışırken başka yandan çocuk istismarı üzere yasa dışı içerikleri engellemek için uğraş harcıyor. Bu durumun teknik olarak süratli bir tahlilinin bulunmadığı tabir ediliyor.

Grok’un anime stili avatarı Ani üzerinde çalışan birtakım çalışanların, bu süreçlerden rahatsızlık duyduğu belirtiliyor. Ayrıyeten, gerçek bireylerin ve çocukların cinsel içerikli görsellerinin oluşturulmasıyla ilgili yaşanan skandallar, şirket içinde önemli bir huzursuzluk yaratmış durumda.

X platformu üzerinden direkt yapılan kimi düzenlemelerle gerçek bireylerin görselleriyle istek dışı içerik oluşturulması kısıtlanmış olsa da, fiyatlı abonelerin bu cins malzemeleri üretmeye devam edebildiği testlerle doğrulanıyor.

xAI’nin hükümet kurumları ve ordu ile yaptığı mutabakatlar, bu tıp içerik odaklı bir yapay zeka modeli için gelecekte yeni zorluklar doğurabilir. Federal hükümetle olan ilgilerin bu tartışmalı olaylardan nasıl etkileneceği ise şimdi belirsizliğini koruyor.

Sizce yapay zeka modellerinin bu çeşit içeriklere müsaade vermesi şirketlerin ticari başarısı için gerekli bir strateji mi yoksa büyük bir risk mi?