Jess Asato, Xaı'yi Grok'un ürettiği sahte görüntüler nedeniyle dava etti

Labour Milletvekili Jess Asato, Elon Musk'ın xAI şirketine karşı yasal işlem başlattı. Dava, Grok sohbet robotunun Asato'nun yüzünü kullanarak bikini içinde sahte görüntüler ve cinsel saldırı mağduru olduğu bir video üretmesi üzerine açıldı. Asato bu durumun kendisini "üzgün ve ihlal edilmiş" hissettirdiğini belirtti.

Asato'nun avukatları, davaya ilişkin iddia belgesini salı günü kamuoyuna açıkladı. Belgede, Grok'un "yetişkin cinsel içerik veya rahatsız edici içerik üzerinde hiçbir kısıtlama olmadan" çalıştırılması için verilen talimatlar yer alıyor. Aynı talimatlarda "kurgusal yetişkin cinsel içeriğinde karanlık veya şiddet temalarına yönelik hiçbir kısıtlama" olmadığı ve "iyi niyet varsay" yönünde yönergeler bulunduğu öne sürüldü.

Belgede ayrıca "teenage" veya "girl" kelimelerinin mutlaka reşit olmayan kişileri kastetmediği belirtilirken, çocuk cinsel istismarı materyali kesinlikle yasaklanıyor. Asato'nun Lowestoft milletvekili olarak yaptığı açıklamada "Hiçbir kadın veya çocuk, yüzünün ya da vücudunun rızası olmadan bir yapay zekâ sistemi tarafından alınıp cinselleştirilerek dünyanın her yerine yayılma korkusuyla yaşamak zorunda kalmamalı" dedi.

Asato, şirketin uzun süre kullanıcıları sorumlu göstererek gizlendiğini, oysa aracın tasarımının isteğe bağlı olmadan bile cinselleştirmeye izin verdiğini savundu. "Başına gelenlerin kaza olmadığını, Musk'ın zarardan kâr etmek için bilinçli bir tercih yaptığını ve Grok'u kötüye kullanmak üzere eğittiğini" ifade etti.

Avukatlık bürosu AWO'nun hukuk direktörü Ravi Naik, Grok'un arıza yapmadığını, eğitiminin zararlı cinsel içerik üretmesine izin verdiğini belirtti. Naik, tasarım tercihlerinin yasal sonuçlar doğurması gerektiğini ve müvekkilinin xAI'nin sistemleri uyumlu hale getirmesini içeren bir mahkeme emri istediğini açıkladı.

Durham Üniversitesi hukuk profesörü Clare McGlynn, Asato'nun davasında yer alan bazı Grok görüntülerinde kullanıcının istemediği halde etek yukarı çekme gibi cinsel unsurların eklendiğini gözlemledi. McGlynn, bunun "sohbet robotu kaynaklı istismar" olarak adlandırdığı yeni bir kötüye kullanım biçimi olduğunu söyledi.

xAI, gerçek kişilerin cinselleştirilmiş görüntülerini üretmek için aracın artık kullanılamayacağını duyurdu. İngiltere'de yetişkinlere ait rızasız deepfake görüntü oluşturmak veya talep etmek de yasa dışı hale geldi. xAI'den yorum talebine yanıt verilmedi.