AB'nin Yapay zeka yasası yürürlüğe girdi

2 Ağustos'ta Avrupa'nın Yapay Zeka Yasası'nın bir sonraki aşaması yürürlüğe girdi. Avrupa Birliği, bu yasayı dünyanın ilk kapsamlı yapay zeka yasası olarak çerçeveliyor. Daha önceki Genel Veri Koruma Yönetmeliği (GDPR) gibi, bu yeni AB yasası mevcut dijital düzenlemeleri değiştirmeyi değil, onları tamamlamayı amaçlıyor.

GDPR, kuruluşların kişisel verileri nasıl topladığını ve kullandığını düzenlerken, AI Yasası yapay zeka sistemlerinin nasıl geliştirileceğini ve kullanılacağını düzenliyor. GDPR, Avrupa'nın ötesinde gizlilik uygulamalarını şekillendirdi ve birçok çok uluslu kuruluşun uyum programlarını tasarlarken referans noktası haline geldi. Şimdi ise AI Yasası'nın yapay zeka yönetimi için aynı derecede etkili olup olmayacağı merak ediliyor.

Bu hafta yürürlüğe girenler neler? AI Yasası'nın 50. Maddesi artık geçerli. Bu madde, AB'nin daha geniş yapay zeka düzenlemelerine şeffaflık katmanı ekliyor. İnsanlarla doğrudan etkileşime giren chatbotlar ve diğer yapay zeka sistemleri, kullanıcıların yapay zeka ile etkileşimde bulunduğunu açıklamak zorunda.

Görüntü, ses, video veya metin oluşturan veya manipüle eden yapay zeka sistemlerinin sağlayıcıları, yapay içeriklerin gerektirildiği durumlarda makine ile okunabilir işaretleme ile tanınabilir olmasını sağlamalı. Duyguları tanıma veya biyometrik verileri kullanarak insanları kategorize etme amacıyla kullanılan sistemler, bireyleri bu tür işlemlerin yapıldığı konusunda bilgilendirmelidir. Bazı kolluk kuvveti faaliyetleri bu şeffaflık yükümlülüklerinden muaf tutulmuştur. Anahtar nokta ise, bu düzenlemelerin açıklama gerektirmesi, teknolojinin genel olarak yasaklanmasını gerektirmemesidir. İhlaller, 15 milyon euro (17,3 milyon dolar) veya yıllık küresel cironun yüzde 3'ü, hangisi daha yüksekse, idari para cezaları ile sonuçlanabilir.

Şirketler için bu kurallar, daha çok operasyonel bir etki yaratmakta. İşletmelerin yapay zeka sistemlerini terk etmesi veya kullanmadan önce ön onay alması gerekmiyor. Bunun yerine, bir uyum katmanı ekleniyor. Birçok kuruluş için pratik zorluk, yapay zekanın ürünler, müşteri etkileşimleri ve iç süreçlerde nerelerde gömülü olduğunu belirlemek ve bu sistemlerin yeni şeffaflık gerekliliklerine uygunluğunu sağlamaktır.

Neler ertelendi ve neden? AI Yasası'nın en kapsamlı operasyonel gereklilikleri - biyometrik veriler, istihdam, eğitim, temel hizmetler ve göç, sığınma ve sınır yönetimi gibi alanlarda kullanılan yapay zeka sistemleri için “yüksek risk” yükümlülükleri - şeffaflık kuralları ile birlikte 2 Ağustos'ta devreye girmesi planlanıyordu. Ancak Mayıs ayında, AB yasama organları bu yükümlülüklerin 2 Aralık 2027'ye kadar ertelenmesi konusunda anlaştı. Sonuç olarak, bu sistemler mevcut yasalar olan GDPR ve sektöre özgü düzenlemelere tabi olmaya devam edecek, ancak AI Yasası'nın yüksek risk yönetimi ve gözetim gerekliliklerine henüz uymayacaklar.

Avrupa Komisyonu, ertelemeyi bir uygulama ayarlaması olarak sunuyor ve AI düzenlemesinden geri adım atmış değil. O dönemde, İcra Başkan Yardımcısı Henna Virkkunen, yenilik yapmayı kolaylaştırmanın amacının güvenlikteki standartları düşürmek olmadığını belirtti. Şirketlerin ve düzenleyicilerin, en zorlu yükümlülükler devreye girmeden önce daha net bir rehberliğe, teknik standartlara ve destek araçlarına ihtiyaç duyduğunu savundu.

Komisyon ayrıca bu değişikliği, daha geniş rekabetçilik gündemi ile ilişkilendirerek, eski Avrupa Merkez Bankası Başkanı ve İtalya Başbakanı Mario Draghi'nin Avrupa rekabetçiliği üzerine 2024 raporuna atıfta bulundu. Bu rapor, AB düzenleme yükünün ekonomide büyümeyi engellediğini savunuyor, ancak yapay zeka özelinde değil.

Avrupa Parlamentosu müzakerecileri, yüksek riskli yapay zeka sistemleri için uyumun temelini oluşturan teknik standartların zamanında hazır olmadığı gerekçesiyle uzlaşmayı destekledi.

Dijital hak grupları ise bu açıklamayı sorguluyor. Yeniden kabul edilen bir yasanın açılması, korumaları zayıflatma riski taşıdığı ve sanayi lobi faaliyetlerini ödüllendirdiği konusunda uyarıyor. Gecikmenin, Avrupa'nın dijital düzenlemesindeki daha fazla ertelemelere zemin hazırlayabileceğini belirtiyorlar.

Gecikmeden en çok kimler etkileniyor ve eleştirmenler neyi kaçırdığını söylüyor? AB AI Yasası'nın Ek III'ü, göç, sığınma ve sınır yönetiminde kullanılan bazı yapay zeka sistemlerini “yüksek risk” olarak sınıflandırıyor. Bu, bloğun bu teknolojilerin özellikle savunmasız durumlarda insanları etkileyebileceğini kabul etmesini yansıtıyor.

Bu kategori, riskleri değerlendirmek, sığınma, vize ve oturum başvuruları üzerinde karar vermeye yardımcı olmak ve sınırda bireyleri tespit etmek, tanımak veya tanımlamak için kullanılan araçları kapsıyor. AI Yasası'nın tam rejimi altında, bu sistemler risk yönetimi, belge yönetimi, veri yönetimi, izlenebilirlik ve insan gözetimi konularında ek güvenlik önlemleri ile karşılaşacak. Ancak bu yükümlülükler, erteleme tarihine kadar geçerli olmayacak.

Eleştirmenler, bu durumun, otomatik karar verme süreçlerine maruz kalan bazı insanların en güçlü korumalardan yoksun kalacağı anlamına geldiğini savunuyor. Mevcut korumalar, GDPR ve ulusal yasalar, hâlâ geçerli, ancak kampanyacılar, belirsiz veya potansiyel olarak ayrımcı yapay zeka sistemlerinin neden olduğu her riski ele almadığını belirtmektedir.

“AI Yasası, AB Şartı’nın ayrımcılık yapmama maddelerini zaten zayıflatıyor,” diyor Avrupa genelinde koruma sağlamak amacıyla çalışan Equinox Racial Justice İnisiyatifi'nin savunuculuk lideri Stefi Richani. Gecikmeyi, Yasa'nın sınırlı göç korumalarını artıracağının savunucusu olarak nitelendiriyor. “Bu durum, gözetimi ve ayrımcılığı artıracak ve hatta kişisel özellikler veya ırksal şüpheye dayalı olarak sığınma taleplerinin hukuksuz bir şekilde reddedilmesine yol açabilir.”

Richani için daha derin bir sorun, gecikmeden önce mevcut. “Hiçbir koruma veya kılavuz, göçmenlere yönelik yapısal önyargıları aşamaz,” diyor ve bu bağlamda tahmine dayalı ve otomatik sistemlerin düzenlenmesi yerine yasaklanması gerektiğini savunuyor. Güvenli güzergahlara ve sosyal korumaya yatırımlar yapılması gerektiğini ekliyor.

Bu durum AB sınırlarını aşıyor mu? Şeffaflık açısından, AB’nin açıklama ve etiketleme kurallarına uymak için yapay zeka sistemleri geliştiren şirketler, genellikle aynı standartları dünya genelinde uygulamaktadır; ayrı uyumlu ve uyumsuz sürümler çalıştırmak yerine.

Bu, GDPR'nın küresel bir gizlilik kıyaslamasına dönüşmesini sağlayan “Brüksel etkisi” ile aynıdır. Ancak en yüksek riskli kullanımlarda, AB’nin etkisi ters yönde işlemekte.

Blok, kendi sınırları dışında üçüncü ülkelerde uygulanan göç ve sınır gözetim teknolojilerini finanse etmektedir. Örneğin, Avrupa'ya giriş yollarında kullanılan bu sistemler, AI Yasası'nın kapsamının dışında kalıyor. Yüksek riskli kuralların AB’de ne gerektirdiğinden bağımsız olarak, bu uygulamalar, yasa kapsamının dışında kalacaktır. Yasanın açıklama gereklilikleri küresel olarak uygulanabilirken, en güçlü korumalar AB’nin kendi sınırlarında sona eriyor.

Sonraki adımlar neler? AI Yasası aşamalı olarak yürürlüğe girmektedir. Yasaklanan yapay zeka uygulamaları ve yapay zeka okuryazarlığı ile ilgili kurallar 2025 Şubat ayında yürürlüğe girecek. Genel amaçlı yapay zeka modelleri için yükümlülükler 2025 Ağustos'ta devreye girecek. Şeffaflık gereklilikleri bu hafta yürürlüğe girdi. Ertelenen yüksek riskli yükümlülüklerin ise Aralık 2027'de uygulanması bekleniyor. Aşamalı uygulama, hızla gelişen bir teknoloji sektörünü düzenlemenin karmaşıklığını yansıtıyor ve uygulamanın dikkatli ilerleyip ilerlememesi gerektiği veya gecikmelerin korumaları zayıflatma riski taşıyıp taşımadığı konusundaki tartışmayı yansıtıyor. Eleştirmenler, her gecikmenin sanayi üzerindeki denetimi ağırlaştırdığını ve göçmenler ile iş arayanların karşısında kullanılacak sistemlerin daha uzun süre denetimsiz kalacağını savunuyor.