xAI birinci sefer Grok kullanıcısını mahkemeye verdi: Dava çocuk istismarı manzaraları tezine dayanıyor

Grok’un yasa dışı içerik üretmek için kullanılabildiği yönündeki tenkitler sürerken, xAI dikkat çeken bir adım attı. Elon Musk’ın şirketi, sohbet botunu çocuk istismarı imgeleri üretmek için kullandığı argüman edilen bir kullanıcı hakkında dava açtı. Şirket, bu davayla birlikte yapay zekâ tarafından oluşturulan içeriklerden sadece kullanıcıların sorumlu tutulması gerektiğini de savunuyor.

Haberi okuduğunuz için teşekkürler, bizi takip etmeyi unutmayın!

xAI’nin amacındaki isim muhakkak oldu

Davanın merkezinde Terry Wayne Harwood yer alıyor. Harwood, Güney Carolina’da çocuk cinsel istismarı malzemesi bulundurmak ve dağıtmak suçlamalarıyla daha evvel gözaltına alınmıştı.

xAI’nin tezine nazaran Harwood, aylar boyunca iki farklı Grok hesabını kullanarak gerçek şahıslara ilişkin fotoğrafları müsaadesiz formda çıplak hale getiren görseller üretti. Şirket, mağdurlar arasında yaklaşık 10 yaşında görünen bir kız çocuğunun da bulunduğunu öne sürdü. xAI, bu faaliyetleri tespit ettikten sonra güvenlik güçlerine bilgi verdiğini belirtti.

Grok hakkında yeni suçlamalar gündemde

Bu dava, Grok sebebiyle açılan tek hukuksal süreç değil.

Kısa müddet evvel öteki bir kız çocuğu da xAI’ye karşı hazırlanan toplu davaya katıldı. Teze nazaran üvey babası, Grok ve öbür yapay zekâ araçlarını kullanarak yaklaşık 7 bin cinsel içerikli uydurma manzara oluşturdu. Daha sonra bu görselleri dark web üzerinden paylaştı. Birebir kişi olayın ortaya çıkmasının akabinde hayatına son verdi.

Davada yer alan avukatlar, xAI’nin polisle yeterince iş birliği yapmadığını savunuyor. Argümana nazaran şirket, mağdurun fotoğrafını Grok’a yükleyen hesabın kimliğini belirlemeye yardımcı olacak kullanıcı bilgilerini paylaşmadı.

2026 tarihli ABD Ulusal Kayıp ve İstismara Uğrayan Çocuklar Merkezi (NCMEC) raporu da bu tenkitleri destekleyen bilgiler içeriyor. Rapora nazaran xAI’nin yaptığı ihbarların büyük kısmında kolluk kuvvetlerinin şüphelileri tespit etmesini sağlayacak kullanıcı bilgileri yer almadı.

Musk’ın açıklamaları yine gündeme geldi

Elon Musk daha evvel Grok’un çocuk istismarı manzarası ürettiğine dair örnek görmediğini söylemişti. Ocak ayında ise X üzerinden yaptığı paylaşımda, Grok’u yasa dışı içerik üretmek için kullanan şahısların hukuksal sonuçlarla karşılaşacağını tabir etmişti.

Ancak xAI’nin açtığı dava, şirketin artık Grok’un bu hedefle kullanıldığını kabul ettiğini gösteriyor.

Dava belgesine nazaran Harwood, Aralık ile Şubat ayları arasında iki farklı hesap üzerinden çok sayıda içerik üretme teşebbüsünde bulundu.

Güvenlik sistemi her isteği engelleyemedi

xAI, Grok’un kimi istekleri reddettiğini de kabul etti. Şirket, güvenlik sistemi sayesinde kimi komutların içerik kurallarını ihlal ettiği gerekçesiyle engellendiğini belirtti.

Buna karşın davada, Harwood’un istemleri değiştirerek filtreleri aşmaya çalıştığı öne sürüldü. xAI, bu tekniklerin detaylarını ise paylaşmadı. Şirket, bunun misal teşebbüslerde bulunabilecek şahıslara yol gösterebileceğini düşünüyor.

Harwood hakkında açılan ceza davası ise devam ediyor. Savcılık, yapay zekâ platformu kullanılarak çocuk istismarı malzemesi üretildiği ve dağıtıldığı suçlamasını yöneltiyor. Yetkililer kullanılan platformun ismini doğrulamazken, xAI dava belgesinde kelam konusu görsellerin en az bir kısmının Grok ile üretildiğini yahut değiştirildiğini tez etti.

xAI sorumluluğu kullanıcıya yüklemek istiyor

Davanın en dikkat çeken noktalarından biri ise xAI’nin hukuksal savunması oldu.

Şirket, Grok’un tarafsız bir araç olduğunu ve üretilen her içeriğin kullanıcının verdiği komutların sonucu olarak ortaya çıktığını savundu. Bu sebeple yasa dışı içeriklerden sadece kullanıcıların sorumlu tutulması gerektiğini ileri sürdü.

xAI ayrıyeten kullanım kaidelerinde gerçek şahısların fotoğraflarını çıplak hale getirmeyi, cinsel içerikli biçimde değiştirmeyi yahut çocukları cinselleştiren içerikler üretmeyi açık formda yasakladığını hatırlattı.

Şirkete nazaran Harwood bu kuralları bilmesine karşın ihlal etmeye devam etti ve güvenlik tedbirlerini aşmaya çalıştı.

Mahkemenin kararı emsal olabilir

xAI, mahkemeden sırf Harwood’un mukaveleyi ihlal ettiğinin kabul edilmesini istemiyor. Şirket ayrıyeten Grok ile üretilen yasa dışı içeriklerden hukuken yalnızca kullanıcıların sorumlu olduğunun da karara bağlanmasını talep ediyor.

Bu karar çıkarsa, xAI misal davalarda daha güçlü bir savunma elde edebilir.

Ancak bu yaklaşımın kabul edilip edilmeyeceği şimdi meçhul. ABD Telif Hakları Ofisi, yapay zekâ tarafından üretilen içerikleri direkt insan üretimi olarak pahalandırmıyor. Bu durum, mahkemenin yapay zekâ çıktılarının hukuksal sorumluluğunu nasıl yorumlayacağı konusunda değerli bir tartışma yaratabilir.

xAI davayı kazanırsa Harwood’un, mağdurlara verilen ziyanların yanı sıra şirketin karşılaşabileceği davalar ve prestij kaybı sebebiyle de tazminat ödemesi gündeme gelebilir.