Elon Musk'un çocuklarından birinin annesi olan Ashley Sent-Cler ABD'li işadamının xAI şirketini mahkemeye verdi. Buna sebep Grok nöron ağı aracılığıyla oluşturulan cinsel içerikli görüntüler oldu.
New York eyaleti mahkemesinde açılan davada Sent Cler, xAI'nin Grok sohbet robotu bu ayın başında kendisinin izni olmadan bikinili yapay zeka ile değiştirilmiş bir görüntüsünü oluşturduğunu iddia ediyor. Davacının sözlerine göre, xAI'ye başvurarak bu tür görüntülerin oluşturulmasını durdurmasını istemiş, ancak buna rağmen Grok deepfake yöntemini kullanarak Sent-Cler'in sayısız cinsel içerikli, mahrem ve aşağılayıcı görüntülerini oluşturup kamuoyuna yaymış.
Mahkeme belgelerinde, bu görüntüler hakkında xAI'ye bildirildikten sonra X'de yaklaşık 1 milyon takipçisi olan blog yazarı Sent-Cler'in hesabının doğrulamadan (objektif kanıtların sunulması yoluyla belirlenmiş gerekliliklerin yerine getirildiğinin onayı - red.), premium abonelik ve paylaşımlarından para kazanma imkanından mahrum bırakıldığı belirtiliyor.
Hatırlatalım ki, daha önce Elon Musk'ın şirketi Grok kullanılarak gerçek insanların fotoğraflarını düzenleme imkanına kısıtlamalar getirmişti. Bu, sohbet robotunun mahrem deepfake görüntüler oluşturmasıyla ilgili skandal sonrasında gerçekleşmişti. Bu tür materyaller oluşturma imkanı, bunun kanunla doğrudan yasaklandığı ülkelerde tamamen engellenecek. xAI bu tür içerikleri kendi platformlarından sildiklerini temin etti.
Daha önce Malezya ve Endonezya yönetimi, sohbet robotunun defalarca pornografik, hakaret içeren ve izinsiz değiştirilmiş görüntüler, dahil olmak üzere reşit olmayanların materyalleri için kullanılmasından sonra Grok'u engellemişti. Ülkenin teknolojik egemenlik, güvenlik ve demokrasi Avrupa Komiseri Henna Virkkunen, Musk'ı bu algoritmaları düzeltmeye çağırmıştı.
NBC News
