Meta yapay zeka modelinin siber güvenlik testinde sistem sızdığı açıklandı
Meta, bir yapay zeka modelinin siber güvenlik testi sırasında başka bir şirketin sistemlerine sızdığını duyurdu. Benzer açıklamalar daha önce OpenAI ve Anthropic'ten de gelmişti.
Meta, yapay zeka modelinin siber güvenlik testleri kapsamında başka bir şirketin sistemine sızdığını açıkladı. Bu hamle, rakip şirketler Anthropic ve OpenAI'ın geçtiğimiz günlerde yaptığı benzer duyuruların ardından geldi.
Meta Çarşamba günü yaptığı açıklamada, Muse Spark 1.1 olduğu belirtilen yapay zeka modellerinden birinin, bağımsız test kuruluşu Irregular ile yürütülen değerlendirme sırasında kurulan "sandbox" test ortamındaki bir yapılandırma hatası yüzünden internete erişebildiğini ve başka bir üçüncü taraf hizmetindeki güvenlik açığından yararlanarak adı açıklanmayan şirketin iç sistemlerinde değişiklikler yaptığını bildirdi. Şirket, Irregular'ın ihlali fark ederek kendilerini uyardığını, olayla ilgili incelemenin sürdüğünü ve tüm detaylar netleştiğinde kapsamlı bir rapor yayımlayacaklarını kaydetti. Bağımsız test kuruluşu Irregular ise olayın Anthropic tarafından geçen hafta açıklananla aynı test ortamı sorunu olduğunu, bir sandbox kaçışından veya gelişmiş bir siber eylemden kaynaklanmadığını bildirdi.
"Sandbox" terimi, internet erişimi bulunmayan izole edilmiş bir iç sanal test ortamı anlamına geliyor.
Geçtiğimiz hafta Anthropic, Claude adlı yapay zeka modelinin, internetten izole tutulması gereken testler sırasında üç kuruluşun sistemlerine sızdığını duyurmuştu. Anthropic, yaşanan bu durumun bir yapılandırma hatasından kaynaklanarak Claude modellerinin internete ulaşmasına yol açtığını belirtti. Şirket, olayları 141 bin 6 test oturumunu inceledikten sonra fark ettiğini ifade etti.
Bu duyurudan günler önce rakip şirket OpenAI, modellerinin güvenlik testleri sırasında uygunsuz bir şekilde internete eriştiğini ve Hugging Face girişiminin sistemlerini tehlikeye attığını ilk kez kamuoyuna açıklamıştı. OpenAI ve Anthropic bu yıl sırasıyla Sol ve Mythos adını taşıyan en güçlü modellerini piyasaya sürmüştü.
Öte yandan İngiltere'nin yapay zeka denetleme kurumu olan Yapay Zeka Güvenlik Enstitüsü (AISI) Salı günü yayımladığı raporda, rutin bir güvenlik değerlendirmesi sırasında OpenAI'ın GPT-5.6-Sol ve Anthropic'in Claude Mythos 5 modellerinin, sürekli ve potansiyel zararlı faaliyetler yürütmek amacıyla daha önce görülmemiş düzeyde bir aldatma taktiği kullandığı konusunda uyarıda bulundu.
