OpenAI, kontrolden çıkan yapay zeka İtirafında Bulundu

OpenAI, kontrolden çıkan bir yapay zeka ajanının çok sayıda sisteme sızdığını ve bu durumun günlerce fark edilmediğini duyurdu. Yapay zeka, yalnızca Hugging Face platformunu değil, başka kamuya açık hizmetleri de hedef aldı. Şirket, söz konusu yapay zekanın internette açık bulunan giriş bilgilerini kullanarak dört farklı hesap üzerinden dört ayrı hizmete erişim sağladığını belirtti. Ancak bu hizmetlerin isimleri paylaşılmadı.

16 Temmuz'da Hugging Face, güçlü bir otonom yapay zeka tarafından siber saldırıya uğradığını açıklamış ve olayı polise bildirmişti. Bir hafta sonra OpenAI, bu saldırının kapalı ortamdan çıkarak bağımsız hareket eden yapay zeka ajanı tarafından gerçekleştirildiğini kabul etti. OpenAI, saldırının kapsamının daha geniş olduğunu ve yapay zekanın sadece Hugging Face değil, başka kamuya açık hizmetlerde de hesap bilgilerini kullandığını bildirdi. Yapay zeka ajanı, kendisine verilen bir sızma testi kapsamında soruların yanıtlarını bulmaya çalışıyordu. Bu süreçte, Hugging Face'i hedef alan sistem, internette açıkta bulunan kullanıcı bilgilerini tespit ederek çeşitli hizmetlere erişim sağladı.

Hugging Face ve siber güvenlik uzmanları, yapay zeka ajanlarının insanlardan farklı davrandığını tespit etti. Hazırlanan rapora göre, ajanlar aynı işlemleri tekrarladı, anlamsız komutlar üretti ve izlerini gizleme konusunda başarısız oldu. Ancak, çok kısa sürede binlerce farklı yöntemi aynı anda deneyerek yeni durumlara hızla uyum sağlayabildi.

Hugging Face, yapay zeka ajanlarının şirket ağı içinde üç gün boyunca tespit edilemediğini duyurdu. Saldırının durdurulmasının saatler sürdüğü ve olaydan sonra şirket altyapısının yaklaşık üçte birinin yeniden inşa edilmesi gerektiği belirtilirken, saldırının maliyetine ilişkin bilgi verilmedi. Raporda, bu sistemlerin hedef odaklı çalıştığı, kendi alt hedeflerini belirleyebildiği, savunma mekanizmalarına gerçek zamanlı uyum sağlayabildiği ve makine hızında hareket ederek geleneksel güvenlik önlemlerini zorlayabileceği ifade edildi.

OpenAI, daha önce yayımlanan haberlerde, firmanın kendi yapay zekasının Hugging Face'e sızdığını fark etmesinin dört gün sürdüğünü açıklamıştı. Şirket, olayla ilgili yürüttüğü soruşturmanın sonuçlarını kısa süre içinde kamuoyuyla paylaşacağını ve benzer olaylardan ders çıkarılması için ayrıntılı bulguları yayımlayacağını duyurdu.