xAI’ye Şok Dava: Cinsel İçerikli Görseller Nedeniyle Firmaya Dava Açıldı

Dava, reşit olmayan bireylerin bu tür içeriklere karşı açtığı ilk büyük hukuki mücadelelerden biri olarak öne çıkıyor.

Yapay zeka dünyasında tartışmaları alevlendirecek bir dava gündemde. Aralarında reşit olmayanların da bulunduğu bir grup genç, xAI’ye karşı toplu dava açtı. Davacılar, şirketin geliştirdiği Grok modelinin rızaları olmadan cinsel içerikli görsellerde kendilerini kullandığını öne sürüyor.

ABD’nin Kaliforniya Kuzey Bölge Mahkemesi’nde açılan dava, bu alanda bir ilk olarak değerlendiriliyor. Çünkü bu, yapay zeka ile üretilen rıza dışı cinsel içerikler nedeniyle doğrudan teknoloji şirketlerini hedef alan ve mağdurlar arasında çocukların da yer aldığı ilk büyük davalardan biri.

AYLAR SÜREN İSTİSMAR

Dava dosyasına göre, kimliği belirlenen bir kişi, aylar boyunca sosyal medya hesaplarından aldığı fotoğraf ve videoları kullanarak mağdurların çıplak ve cinsel içerikli sahte görüntülerini oluşturdu. Bu içeriklerin daha sonra Discord ve Telegram gruplarında satıldığı ve paylaşıldığı belirtiliyor. Bazı mağdurlar, görüntülerden ancak sosyal medyada kendilerine ulaşıldığında haberdar oldu.

Soruşturma sonucunda şüphelinin Aralık ayında gözaltına alındığı ve bu içerikleri üretmek için Grok kullandığının tespit edildiği ifade ediliyor. Davada en az 18 genç kızın hedef alındığı ve sistematik şekilde tacize uğradığı da öne sürülüyor. Araştırmalara göre, benzer dönemde sosyal medyada dolaşıma giren ve çocukları hedef alan on binlerce yapay zeka üretimi içerik tespit edildi.

GEREKLİ ÖNLEMLER ALINMADI

Davacılar, xAI’nin Grok modelini geliştirirken ve pazarlarken bu tür kötüye kullanımları öngörmesi gerektiğini savunuyor. Ayrıca şirketin, çocuk istismarı içeriklerini engellemek için sektör standardı sayılan güvenlik önlemlerini yeterince uygulamadığı iddia ediliyor.

Dava dilekçesinde, şirketin bu durumu fark etmesine rağmen gerekli adımları atmadığı, atılan bazı adımlarda çok geç kalındığı ve hatta bu tür kullanımın ticari bir fırsat olarak görüldüğü öne sürülüyor.

Elon Musk daha önce yaptığı açıklamalarda, Grok’un yasa dışı içerik üretmediğini ve bu tür talepleri reddettiğini savunmuştu. Ancak aynı dönemde platformda rıza dışı içeriklerin yayılması, bu açıklamaların sorgulanmasına neden oldu. xAI, ilerleyen süreçte görsel üretim sistemine bazı kısıtlamalar getirdiğini duyursa da, davada bu adımların yetersiz kaldığı iddia ediliyor.

YAPAY ZEKA İÇİN EMSAL KARAR ÇIKABİLİR

Uzmanlara göre bu dava yalnızca xAI’yi değil, tüm yapay zeka sektörünü etkileyebilecek emsal bir karar oluşturabilir. Özellikle deepfake ve rıza dışı içerik üretimi konusunda şirketlerin sorumluluğu yeniden tartışmaya açılmış durumda.

Gelişmeler, yapay zeka araçlarının etik sınırları ve yasal denetimi konusunda daha sıkı düzenlemelerin kapıda olabileceğine işaret ediyor.