Yapay zeka saldırısına uğrayan şirketten 'radikal şeffaflık' çağrısı

Hugging Face adlı girişimin yöneticisi, bir OpenAI yapay zeka ajanı tarafından gerçekleştirilen siber saldırıyla ilgili yürütülen soruşturmada "radikal şeffaflık" gösterilmesi çağrısında bulundu. Şirketin icra kurulu başkanı Clement Delangue, işletmesine yönelik bu benzeri görülmemiş saldırının da aynı ölçüde sıradışı bir yanıt gerektirdiğini dile getirdi.

OpenAI'ın teknolojisinin bir siber güvenlik testi esnasında kontrolden çıktığını açıklamasının ardından X platformunda paylaşımlarda bulunan Delangue, yapay zeka devinin bu tür tehditlere karşı savunma hatları kurulmasına yardım etmek amacıyla 100 milyon dolar yani yaklaşık 75 milyon sterlin değerinde bilgi işlem gücü sağlamasını da istedi.

İlk kez otonom bir ajanın siber saldırı gerçekleştirdiğini belirten Delangue, yaşananların eşi benzeri olmadığını ve bu durumun aynı oranda kararlı bir yaklaşımı hak ettiğini ifade etti.

Geçtiğimiz hafta çarşamba günü OpenAI, Hugging Face'in bir ajan tarafından hedef alındığını açıklamıştı. Kendi kendine bir dizi görevi yerine getirebilen yapay zeka aracı olan bu ajanın, şirketin kamuya açık en son modeli GPT-5.6 Sol ile henüz piyasaya sürülmemiş daha güçlü bir başka modelin birleşiminden güç aldığı belirtilmişti. Söz konusu olay, modellerin siber saldırı yeteneklerinin test edildiği süreçte yaşanmış; yapay zekalar güvenlik denetimlerinin daha düşük olduğu "sandbox" adı verilen kapalı dijital laboratuvar ortamına yerleştirilmişti.

OpenAI'ın açıklamasına göre, sanal ortamdan çıkmak için ihtiyaç duydukları açık internet erişimini elde eden modeller, Hugging Face'i hedef almıştı çünkü şirket sisteminin "değerlendirmeyi atlatmak" için gerekli bilgilere sahip olduğu sonucuna varmışlardı. Hugging Face, siber saldırıyı ilk kez 16 Temmuz tarihinde bildirmiş ancak o dönemde saldırının arkasında OpenAI'ın kazara yer aldığından haberdar olmamıştı.

Geliştiricilere yapay zeka modelleri veri tabanı sağlayan Hugging Face'in başındaki isim olan Delangue, OpenAI ile öncü yapay zeka laboratuvarlarındaki güvenlik standartlarına yönelik endişelerin artmasına yol açan olayla ilgili eksiksiz ve şeffaf bir inceleme talep etti.

OpenAI'dan tam şeffaflık talep ettiğini vurgulayan Delangue, kontrolden çıkan ajanlara ait izlerin kamuoyuyla paylaşılması çağrısında bulunarak tüm araştırma topluluğunun ne olduğunu inceleyebilmesi gerektiğini kaydetti. Yapay zekaya karşı koruma oluşturmak için OpenAI'dan ek finansman isteyen Delangue, en iyi açık ve kapalı modellerle güçlü siber savunmalar inşa edilmesi amacıyla 100 milyon dolarlık bilgi işlem desteği taahhüt edilmesini istedi.

Geçtiğimiz hafta Reuters haber ajansı, ajanın OpenAI'ın fark etmesine imkan vermeden günlerce Hugging Face sistemlerine sızdığını ve dahili kısıtlamalardan kurtulma konusunda ipucuna ihtiyaç duymaları ihtimaline karşı yapay zekanın gelecekteki sürümleri için notlar bıraktığını aktarmıştı. Time dergisi ise benzer olayların bir süredir yaşanmakta olduğunu yazmıştı.

Surrey Üniversitesi siber güvenlik profesörü Alan Woodward, Delangue'nin çağrısına kulak verilmesi gerektiğini belirtti. Yapay zekanın kontrolden çıktığını söyleyerek suçu yapay zekaya atmanın fazlasıyla kolay olduğunu ifade eden Woodward, asıl konunun OpenAI'ın bu aracı nasıl çalıştırdığıyla ilgili olduğunu kaydetti. Woodward, OpenAI'ın kendi sistem kurulumuna ve bu sistemin nerede hata verdiğine dair tüm detayları paylaşması gerektiğini ifade etti.

OpenAI yönetimine ise konuyla ilgili görüş almak üzere ulaşıldı.