Avrupa Birliği'nden yapay zekâ sektörüne sıkı denetim

Avrupa Birliği, hızla yayılan yapay zekânın toplum, siyaset ve ekonomi üzerinde yaratabileceği tehlikelere karşı şimdiye kadarki en katı kuralları hayata geçiriyor.

Uygulama kapsamında yapay zekâ sistemlerinin kurallara uygun çalışıp çalışmadığı denetlenecek. Bu doğrultuda müstehcen içerikler, gerçeği yansıtmayan görsel ve videolar ile kritik altyapılara yönelen siber saldırılar yakından takip edilecek.

Avrupa Birliği'nin Yapay Zekâ Yasası'nın yürürlüğe girmesiyle birlikte şirketler, sohbet botları ile üretilen görsellerin yapay zekâ ürünü olduğunu etiketler ya da dijital filigranlar aracılığıyla kullanıcılara açıkça göstermek zorunda kalacak.

Avrupa Komisyonu'nun teknoloji politikasından sorumlu yetkilisi Henna Virkkunen yaptığı açıklamada, sürecin başlamasıyla beraber vatandaşların ve işletmelerin güven duyabileceği, toplumsal fayda sağlayan bir yapay zekâ ekosistemine doğru kritik bir eşik atlandığını belirtti.

Avrupa Komisyonu, yeni kuralların yapay zekânın barındırdığı sistemik tehlikeleri de kapsadığını duyurdu. Bu başlık altında kimyasal, biyolojik, radyolojik ve nükleer durumlar, sistem kontrolünün yitirilmesi, siber saldırı faaliyetleri, tehlikeli yönlendirmeler ve temel hak ihlalleri sıralandı.

Avrupa Birliği, Brüksel'deki merkezinde yer alan Yapay Zekâ Ofisi bünyesine 38 yeni personel dahil ediyor. Göreve başlayacak bu ekip, yeni kurulan girişimlerden OpenAI ve DeepSeek gibi Amerika Birleşik Devletleri ve Çin merkezli dev teknoloji firmalarına kadar geniş bir yelpazeyi denetleyecek.

Denetim mercii konumundaki Avrupa Komisyonu, firmaların belirli verileri kayıt altına almakla yükümlü olduğunu bildirdi. Komisyon bunun yanı sıra yürütülen incelemeler sırasında teknoloji şirketlerinin personeliyle mülakat yapma yetkisini elinde tutuyor.

Sektör çalışanlarının hukuka aykırı durumları yetkili makamlara gizlilikle aktarabilmesi amacıyla bir İhbar Aracı devreye alındı. Ayrıca son kullanıcıların da gizli bildirim yapabilmesine olanak tanıyan bir Uyumluluk Aracı kullanıma sunuldu.

Getirilen düzenlemeleri ihlal eden yapay zekâ modelleri veya ürünleri geliştiren şirketler idari para cezalarıyla karşı karşıya kalabilecek. Birlik ayrıca ihlalde bulunan firmaların Avrupa pazarına girişini engelleyebilecek.

Yeni birimin kurulması, sektörü sarsan bazı önemli gelişmelerin ardından gerçekleşti. Anthropic firması, yapay zekâ modellerinin test aşamasında üç ayrı kurumun sistemlerine izinsiz şekilde sızdığını duyurdu.

Söz konusu gelişme, ChatGPT'nin üreticisi OpenAI'ın da benzer şekilde denetimden çıkan yapay zekâ sistemlerinin başka bir şirketin altyapısına izinsiz girdiğini açıklamasından ve yapay zekâ güvenliğiyle ilgili kaygıları artırmasından kısa bir süre sonra yaşandı.