Elon Musk'ın şirketi Xaı, Minnesota'ya yapay zeka davası açtı

Elon Musk'ın kurduğu xAI şirketi, Minnesota eyaletinde web siteleri ile uygulamalarda "kıyafetsizleştirme" teknolojisini yasaklayan ABD'deki ilk yasa nedeniyle hukuki süreç başlattı. Bu adım, eyaletlerin yapay zeka kullanımını anayasaya uygun olarak ne kadar sınırlayabileceğine dair önemli bir test niteliği taşıyor.

Musk'ın şirketi pazartesi günü federal mahkemede dava açtı. Bu hamle, yasanın cumartesi günü yürürlüğe girmesinden ve Minnesota'yı, insanların gerçek kişilerin sahte çıplak fotoğraflarını oluşturmak için yapay zekayı kullanmasını yasaklamaya çalışan ilk eyalet yapmasından günler önce geldi. İlgili yasa mayıs ayında imzalanmıştı.

Sosyal medya platformu X'te ve diğer alanlarda sunulan Grok sohbet botu ile görsel oluşturucusunun geliştiricisi olan xAI, 38 sayfalık dava dilekçesinde, eyaletin rıza dışı yapay zeka kaynaklı çıplak görsel dağıtımını yasaklama amacına karşı çıkmadığını belirtti. Ancak şirket, Minnesota yasasının "bu hedefin çok ötesine geçtiğini", anayasayla korunan birçok görsel ve videoyu yasakladığını ve şirketi her ihlal için 500 bin dolar para cezasıyla karşı karşıya bıraktığını ifade etti.

Dava dilekçesinde, kullanıcıların bu tür görsellerin üretilmesini engellemek için iyi niyetli çaba gösteren şirketler için herhangi bir "güvenli liman" hükmünün bulunmadığı vurgulandı. Yasanın, tasvir edilen kişinin rıza gösterdiği veya bizzat o kişinin kendisi tarafından oluşturulan görselleri bile kapsadığı savunuldu.

Ayrıca metinde, yasadaki "özel bölge" tanımının aşırı geniş olduğu ve rutin olarak kamuoyunda sergilenen vücut kısımlarını da kapsadığı kaydedildi.

Minnesota Başsavcısı Keith Ellison, yaptığı açıklamada ofisine henüz dava dilekçesinin ulaşmadığını ve inceleme fırsatı bulamadığını belirtti.

Ancak Ellison açıklamasında, yapay zeka kullanarak kişilerin rızası dışında çıplak görsel üretmenin korkunç olduğunu vurgulayarak, yapay zeka politikası hakkında yapılacak pek çok değerli tartışma bulunduğunu ancak bunun onlardan biri olmadığını söyledi. Başsavcı, yapay zeka tabanlı kıyafetsizleştirmenin hedeflenen kişinin onurunu zedelediğini ve duygusal, kişisel ile profesyonel düzeyde büyük zararlara yol açabileceğini ifade etti.

Seçimlerdeki yapay zeka kaynaklı manipülasyonlarla ilgili eyalet yasaları mahkemelerde farklı sonuçlar doğurdu. Kaliforniya yasası, birinci ek madde kapsamındaki konuşma özgürlüğü korumaları gerekçesiyle engellenirken, Minnesota'nın yasası şu ana kadar Musk'ın şirketinin 2025 yılındaki hukuki itirazından sağ çıktı.

Söz konusu yasa, rıza dışı müstehcen yapay zeka görsellerini ve yapay zeka tabanlı manipülasyonları yasaklayan diğer eyalet ve federal yasalardan farklılık gösteriyor. Bu tür yasalar genellikle araçların geliştiricilerini değil, araçları bu tür görseller üretmek için kullanan kişileri cezalandırıyor. Geçen yıl kabul edilen federal Take it Down Act de web sitelerinin ve uygulamaların bu görselleri kaldırmak için bir süreç uygulamasını zorunlu kılıyor.

Teksas eyaleti geçen yıl kıyafetsizleştirme konusuna biraz daha farklı bir yaklaşımla müdahale etti. Web sitesi veya uygulama sahibinin, ilgili kişinin görselin oluşturulmasına rıza göstermediğini bilmesi ya da bu durum kendisine bildirildiğinde derhal kaldırmaması durumunda, kıyafetsizleştirilmiş görselde yer alan kişinin açacağı tazminat davalarına ve olası cezai yaptırımlara karşı sorumlu tutulmasını kararlaştırdı.

xAI dava dilekçesinde, Grok kullanımına ilişkin hizmet şartlarının, birinin gizliliğini ihlal eden "herhangi bir yasa dışı, zararlı veya kötü niyetli faaliyet" için kullanılmasını yasakladığını belirtti. Şirket, bu kuralları ihlal edenlere karşı hesapları askıya alma veya sonlandırma yollarıyla müdahale ettiğini ve şüpheli çocuk cinsel istismarı içeriklerini bildirdiğini kaydetti.

xAI ayrıca bu yılın başlarında çocuk cinsel istismarının her türüne, rıza dışı çıplaklığa ve istenmeyen cinsel içeriklere karşı "sıfır toleransa" sahip olduklarını açıklamıştı.

Kadınların ve çocukların müstehcen görsellerine yönelik küresel düzeyde yaşanan tepkilerin ardından Grok, ocak ayında belirli yerlerdeki yasaları ihlal etmesi durumunda içeriğe coğrafi engelleme getireceğini duyurmuştu. Bu karar, gerçek kişilerin fotoğraflarının bu tür görsellerin yasadışı olduğu yerlerde açık kıyafetlerle düzenlenmesinin önüne geçmeyi amaçlıyordu. Daha önce Grok'un "baharatlı mod" özelliği, kullanıcıların müstehcen içerik üretmesine imkan tanıdığı için dünya genelindeki hükümetlerin tepkisini çekmişti.

xAI ocak ayındaki açıklamasında, Grok hesabının bikini, iç çamaşırı ve diğer açık kıyafetler giyen gerçek kişilerin fotoğraflarının düzenlenmesine izin vermesini engelleyecek teknolojik önlemler hayata geçirdiklerini bildirmişti.