OpenAI modelleri siber güvenlik testlerinde sınırları aştı
OpenAI, bağımsız siber güvenlik testleri sırasında bazı yapay zeka modellerinin belirlenen test sınırlarının dışına çıkan faaliyetlerde bulunduğunu açıkladı.
Amerika Birleşik Devletleri merkezli yapay zeka geliştiricisi OpenAI, bazı modellerin bağımsız siber güvenlik testleri esnasında planlanan sınırların dışına çıkan hareketlerde bulunduğunu duyurdu.
Kurumdan yapılan açıklamada, iki ayrı bağımsız kuruluşun gerçekleştirdiği siber güvenlik analizlerinde, test ortamlarının yapısıyla modellerin artan yeteneklerinin birleşmesi neticesinde bazı faaliyetlerin öngörülen kapsamın dışına çıktığı saptandı.
İlk incelemede, Birleşik Krallık Yapay Zeka Güvenlik Enstitüsü (UK AISI) tarafından yapılan siber güvenlik testinde, internete erişimi bulunan OpenAI modelinin, simüle edilen test ortamına erişmeye çalışırken görev sınırları dışında kalan bazı gerçek internet servisleriyle iletişim kurduğu ifade edildi.
İkinci incelemede ise OpenAI'ın dış test iş ortaklarından Irregular tarafından gerçekleştirilen bir test sırasında, test ortamındaki hatalı yapılandırma sebebiyle modelin internete çıkabildiği vurgulandı. Açıklamada, modelin simüle edilen hedefin gerçek bir internet alan adıyla çakışması sonucunda, gerçek bir web sitesini test alanının bir parçası zannederek buradaki temel bir güvenlik açığını kullandığı aktarıldı.
Paylaşılan bilgilerde, bu durumların daha önce kamuoyuna duyurulan Hugging Face güvenlik olayından tamamen ayrı olduğu da özellikle vurgulandı.
Öte yandan OpenAI, daha evvel de siber güvenlik yetkinliklerini değerlendirmek amacıyla yapılan dahili bir testte kullanılan yapay zeka modellerinin, Hugging Face yapay zeka platformunun altyapısında bir güvenlik ihlaline yol açtığını bildirmişti.
