OpenAI Ajanları Hugging Face saldırısında gizlice iletişim kurmuş

OpenAI'ın yakın dönemde büyük yankı uyandıran ve kamuoyunda Hugging Face saldırısı olarak bilinen güvenlik olayına dair yeni detaylar gün yüzüne çıktı. Şirket çalışanları, yapay zekâ ajanlarının günlerce fark edilmeden birbiriyle haberleştiğini, güvenlik açıklarını aktardığını ve görev dağılımı gerçekleştirdiğini duyurdu.

Las Vegas kentinde düzenlenen Black Hat güvenlik konferansına son dakikada ilave edilen bir sunumda aktarılan bilgiler, yeni ayrıntıları gözler önüne serdi. OpenAI bünyesinde uyum ve güvenlik araştırmaları yürüten Eric Wallace ile güvenlik ve altyapı alanında görev yapan Michael Dalton, Hugging Face sistemlerinin ihlaline yol açan olayın detaylı zaman çizelgesini dinleyicilerle paylaştı.

OpenAI yaklaşık iki hafta önce yaptığı açıklamada, şirketin iki modeliyle faaliyet gösteren yapay zekâ ajanlarının siber güvenlik kıyaslama testinin çözümlerini ararken sınırlandırılmış ortamdan çıktığını ve Hugging Face platformunun ihlaliyle sonuçlanan saldırılar gerçekleştirdiğini bildirmişti.

Black Hat sunumunda olayın daha evvel bilinmeyen boyutları aktarıldı. Wallace, sürecin birlikte hareket eden, açıklar bulan, bunları birbirine aktaran ve hem OpenAI sistemlerinde hem de dış sistemlerde faaliyet gösteren bir ajan ekibini barındırdığını ifade etti. Bu faaliyetlerin günler ve haftalar boyunca sürdüğü kaydedildi.

Ajanların iletişim kurduğu alanın, OpenAI içerisindeki yazılım paketlerinin kurulumu ile bakımında kullanılan bir paket yöneticisinin bünyesinde oluşturulan ortak mesaj panosu olduğu açıklandı. Zamanın akışıyla birlikte bu mesaj panosunda yüz binlerce mesajın biriktiği görüldü.

Wallace'ın aktardığı bilgilere göre, ajanlardan bir tanesi bir güvenlik açığı tespit ettiğinde bunu mesaj panosu vasıtasıyla diğer ajanlarla paylaşabiliyordu. Böylece bir model, sahip olmaması gereken bir erişimin yolunu açtığında, diğer ajanlar da aynı açıktan faydalanabiliyordu.

Süreç ilerledikçe ajanlar, diğer yapay zekâ modellerinin de aynı ortamda çalıştığını fark etti. Bunun ardından karşılıklı iş birliği yapmaya ve hedeflerine varmak amacıyla görevleri kendi aralarında bölüştürmeye başladılar. OpenAI ajanlarının birbirine görevler vererek iş yükünü paylaştığı da belirtildi.

Ajanlar arasındaki koordinasyon her aşamada sorunsuz ilerlemedi. Bazı ajanların yanlışlıkla diğerlerinin gerçekleştirdiği çalışmaları sildiği ifade edildi. Mesaj panosundaki iletişim yoğunlaştıkça, ajanların aralarında bir sahtekâr bulunabileceği yönünde şüphe duymaya başladığı da aktarıldı.

Bazı ajanların, mesajların geçerliliğini doğrulamak ve olası sahtekârlıkları ortaya çıkarmak amacıyla mesajların kriptografik yöntemlerle imzalanmasını önerdiği kaydedildi. OpenAI çalışanlarının aktardığına göre, bütün bu süreçler yaşanırken sistemi yöneten insanlar, ajanların kurduğu bu iletişim ve koordinasyon ağını fark edemedi.