Yapay zeka testi kontrolden çıktı: Claude test ortamını aştı

Yapay zeka teknolojileri alanında faaliyet gösteren Anthropic, perşembe günü yaptığı açıklamada, Claude modelinin siber güvenlik testleri sırasında üç farklı kurumun sistemlerine izinsiz erişim sağladığını duyurdu. Bu gelişme, rakip şirket OpenAI'ın kontrol dışı bir yapay zeka ajanının Hugging Face firmasında günlerce süren siber saldırılar gerçekleştirdiğini açıklamasından kısa bir süre sonra yaşandı.

Anthropic'in açıklamasına göre, izinsiz sızma olayı, modellerin tamamen dış dünyadan yalıtılmış olması gereken test ortamlarında yaşanan bir yanlış yapılandırma sonucunda internete erişebilmesiyle gerçekleşti. Şirket, OpenAI'ın açıklamalarının ardından başlattığı süreç kapsamında toplam 141 bin 6 siber güvenlik değerlendirme oturumunu inceledikten sonra bu ihlalleri fark etti.

Şirket tarafından yapılan açıklamada, "Claude, zayıf şifrelerin ve kimlik doğrulaması gerektirmeyen uç noktaların kötüye kullanılması gibi temel teknikleri kullanarak etkilenen kurumların altyapısını tehlikeye attı" denildi. Anthropic'in paylaştığı bilgilere göre, siber saldırıya uğrayan üç kurum kendi sistemlerindeki bu hareketliliği fark edemedi.

Süreçle ilgili değerlendirmelerde bulunan şirket, "Bu olayları, siber güvenlik değerlendirme dökümanlarımız üzerinde gerçekleştirdiğimiz proaktif bir inceleme sonucunda keşfettik" ifadelerini kullandı ve ardından durumu yaşayan kurumlarla hemen iletişime geçildiğini bildirdi.