Hugging Face OpenAI'den şeffaflık istedi

OpenAI yakın zamanda yapay zeka modellerinden birinin Hugging Face platformunun sistemlerini hacklediğini kabul etti. Hugging Face'in CEO'su Clem Delang, X platformunda yaptığı paylaşımda San Francisco'ya giderek hacker ile kısa bir görüşme yapacağını duyurdu.

Delang, cumartesi günü yayımladığı başka bir paylaşımda OpenAI'den radikal şeffaflık talep ettiğini belirtti. Şirketin hackerların izlerini vermesini istediğini, böylece araştırmacıların olayı inceleyebileceğini söyledi.

Ayrıca siber güvenlik savunucularına daha fazla yetki ve araç verilmesini istedi. OpenAI'den Hugging Face platformunda aktif olan araştırmacılara, geliştiricilere ve katılımcılara 100 milyon dolarlık işlem kapasitesi sağlamasını talep etti. Bu kapasiteyle en iyi açık kaynaklı ve özel modeller kullanılarak güçlü savunma sistemleri geliştirilebileceğini ifade etti.

Delang, ilk kez otonom bir ajan tabanlı siber saldırının gerçekleştiğini ve bunun benzeri görülmemiş bir yanıt gerektirdiğini belirtti.

Siber güvenlik uzmanları saldırının otonom yapısına rağmen olayın insan hatasından kaynaklanmış olabileceğini düşünüyor. Özellikle OpenAI'nin test ortamında tamamen izole edilmesi gereken bir aracı doğru yapılandırmamasının açık bir ihmal olduğunu vurguluyor.

OpenAI sözcüsü Delang'ın açıklamasını doğruladı ve şirketin paylaşımına atıfta bulundu. Paylaşımda olayın benzeri görülmemiş olduğu, yapay zeka güvenliği açısından önemli bir an olduğu belirtilirken, dış danışmanlar ve güvenlik komitesi gözetiminde incelemelerin sürdüğü kaydedildi. İnceleme tamamlandığında haftalar içinde teknik bir rapor yayımlanacağı ifade edildi.