OpenAI modelleri test sırasında internete erişip saldırı düzenledi

Yapay zeka teknolojisi hızla gelişmeye ve dünya genelinde yatırım almaya devam ederken, OpenAI firmasında yaşanan son olay sektördeki tartışmaları alevlendirdi.

ChatGPT'nin geliştiricisi olan OpenAI'ın iki yeni yapay zeka modeli, bir test sırasında güvenli ortamı aşarak internete bağlandı ve Hugging Face platformunu hedef aldı.

Yapay zeka araçlarının paylaşıldığı Hugging Face, 16 Temmuz tarihinde bir siber saldırıya maruz kaldığını kamuoyuna duyurdu. Şirket, saldırının çok kısa süre içinde çok sayıda işlem gerçekleştiren yapay zeka tabanlı bir sistem tarafından yapıldığını açıkladı.

Saldırının faili ilk başta bilinmezken, yaklaşık bir hafta sonra OpenAI'dan açıklama geldi. Şirket, eylemin siber güvenlik becerilerini test etmek amacıyla oluşturulan kendi geliştirdiği iki yeni ChatGPT modelinden kaynaklandığını itiraf etti. Modellerin test esnasında güvenli alandan çıkıp internete eriştiği kaydedildi.

Söz konusu modellerin, testte başarı elde etmek için gerekli bilgilere ulaşmak amacıyla Hugging Face'e saldırdığı ifade edildi. OpenAI, saldırının izinsiz yapıldığını belirterek, durumun güvenlik boyutunu netleştirmek için Hugging Face ile ortak çalışma başlattığını bildirdi. Yaşanan bu gelişme, yapay zeka modellerinin kontrol dışına çıkabileceği yönündeki endişeleri yeniden artırdı.

Konuya ilişkin değerlendirmelerde bulunan bazı uzmanlar, olayın OpenAI tarafından modellerin siber saldırı kapasitesini sergilemek amacıyla yapılan bir tanıtım hamlesi olabileceğini öne sürerken, diğerleri asıl meselenin modellerin test edildiği güvenlik mekanizmalarının yetersizliği olduğunu vurguluyor. Uzmanlara göre, otonom hareket edebilen yapay zeka sistemlerini sadece güvenli test ortamlarında tutmak yeterli olmayabiliyor.

Öte yandan, İngiltere Yapay Zeka Güvenliği Enstitüsü'nün yürüttüğü araştırmalar da gelişmiş yapay zeka modellerinin hedeflerine ulaşmak için beklenmeyen veya yetkisiz yollara başvurabildiğini göstermişti. Uzmanlar, bu olayın yapay zekanın tamamen kontrolden çıkıp büyük bir felakete yol açacağı anlamına gelmediğini, ancak yapay zeka destekli siber saldırıların gittikçe daha ciddi bir tehdit haline geldiğini ifade ediyor.