Anthropic, Claude modellerine görünmez yapay zeka filigranı ekliyor

Yapay zeka şirketi Anthropic, ürettiği modellerden geçen tüm içeriklere yakında filigran ekleyeceğini duyurdu. Şirket, bir destek makalesinde bu makine tarafından okunabilir filigranların Avrupa Birliği'nin Yapay Zeka Yasası'na uyum amacıyla hazırlandığını açıkladı. İlgili yasa, yapay zeka sağlayıcılarının üretilen veya manipüle edilen ses, görsel, metin ile video çıktılarında filigran kullanmasını zorunlu kılıyor.

Yasa, 2 Ağustos'tan sonra piyasaya çıkan tüm yapay zeka modellerini kapsıyor. Eski modellerin güncellenmesi için ise Aralık 2026'ya kadar süre tanınıyor. Anthropic, yalnızca Avrupa Birliği'nde değil küresel ölçekte sunulan tüm yeni modellerin ilk günden itibaren içerikleri işaretleyeceğini doğruladı. Metin çıktılarında kullanıcılarca görünmeyen gömülü filigranlar yer alacak. Diğer üretilen dosyalarda ise dijital olarak imzalanmış menşe meta verileri bulunacak.

Avrupa Birliği, yapay zeka sisteminin imla düzeltmesi gibi standart düzenleme işlevleri üstlendiği durumlarda filigran istemiyor. Ancak Anthropic, desteklenen tüm işlenmiş içeriklere filigran ekleyen geniş kapsamlı bir yaklaşım benimseyecek. Model düzeyindeki filigranlar, tam üretim ile virgül düzeltmesini ayırt edemiyor.

Bu durum, yasanın kapsam dışı bırakmak istediği içeriklerin bile işaretlenmesine yol açabilir. Şirket, AB yasasının gerektirdiği teknik desteği sunmak için filigranların nasıl tespit edileceğine dair detayları ilerleyen süreçte paylaşacak. Bazı platformlar veya özellikler bu filigranları desteklemiyor. Metin dışı içeriklerde ise kökeni kaydetmek için C2PA meta veri yaklaşımı kullanılacak.

Uzmanlar, bu yaklaşımın kötü niyetli kişilerce kolayca atlatılabileceğini belirtiyor. Sistem, çıktıları etiketleyen kullanıcılara ceza verebilir. Metin filigranları, modelin kelime seçimini değiştirerek çalışıyor. Bu durum, sistemin en iyi kelime yerine biraz daha zayıf bir ifade seçmesine neden olabiliyor. Filigranlar metin kopyalandığında taşınıyor ancak başka bir sohbet botunda düzenlenirse silinebiliyor. Görsel ve video içeriklerinde ise ekran kaydı veya meta veri araçları bu bilgiyi ortadan kaldırabiliyor. Tespit yöntemleri açıklandığında sistemi kaldırmak kolaylaşacak.

Anthropic, tespit edilen bir işaretin Claude tarafından işlendiğine dair sinyal verdiğini ancak bunun kesin olmadığını belirtti. Bu işaret, Claude tarafından üretilmeyen içeriklerde bile görülebilir. Halk, işlenmiş metin ile tamamen üretilmiş metin arasındaki farkı anlamayabilir. Claude'un iş akışında düzenlenen insan yazısı, otomatik olarak yapay zeka üretimiyle aynı kategoride değerlendirilebilir. İşaretin bulunmaması ise içeriğin yapay zeka ürünü olmadığını kanıtlamıyor.

Anthropic, yasaya göre etiketlenmesi gerekmeyen içerikleri de işaretleyebileceğini kabul ediyor. İnsanlar Claude'u metinleri düzeltmek veya özetlemek için sıkça kullanıyor. Temel fikir başkasından gelse bile çıktı filigran taşıyabiliyor. Bu durum öğretmenlerin ve akademisyenlerin kafasını karıştırabilir. AB yasasının 50(4) maddesi, kamu yararını ilgilendiren konulardaki metinlerin etiketlenmesini zorunlu kılıyor. Ancak metni insan editör incelerse etiket zorunluluğu kalkıyor. Bu durum, model düzeyinde her şeyin filigranlanması ile kamusal alandaki kurallar arasında çelişki yaratıyor.

Ars Technica, Anthropic'e test sonuçları ve olası yanılma oranları hakkında sorular yöneltti. Şirket, soruları doğrudan yanıtlamasa da şu açıklamayı yaptı:

“We’re adding marking to Claude’s output to comply with the EU AI Act, and other labs are taking similar steps. It’s hard to identify AI-generated text, and this gives people better tools for identification. Text from supported Claude models, including output from Claude Code, will carry an invisible watermark, and it doesn’t change the meaning, quality, or readability of Claude’s responses. We also plan to ship a text detection API so users can do more of this themselves.”

Avrupa Komisyonu, şeffaflık kurallarının bilgi ekosistemindeki güveni korumayı amaçladığını belirtiyor. Şirketler kurallara uymazsa 15 milyon euroya veya küresel yıllık gelirin yüzde 3'üne varan cezalarla karşı karşıya kalabilir.