OpenAI, Astra modelini güvenlik standartlarını karşılamadığı için duraklattı

OpenAI, Astra isimli yapay zeka modelinin, şirketin belirlediği yeni güvenlik standartlarını henüz karşılamadığı için iç faaliyetlerini duraklattığını açıkladı. Bu karar, OpenAI modellerinin yanlışlıkla Hugging Face'i hacklediğini açıklamasının ardından geldi. Anthropic ve Meta da benzer şekilde, bazı yapay zeka modellerinin yanlış çalışarak diğer kuruluşlara sızdığını kabul etti.

OpenAI’nın Astra modeli, son iç değerlendirmelere göre 'ajans kodlama ve siber güvenlik' alanında önemli gelişmeler sundu. Şirket, bu sonuçların yanı sıra uzman değerlendirmelerinin, dünkü toplantı sonucunda kritik siber yeteneklerin mümkün olabileceğini ortaya koyduğunu belirtti. OpenAI'nın tanımına göre, bir model 'kritik' siber güvenlik eşiğine ulaştığında, insan müdahalesi olmadan, tüm şiddet seviyelerindeki işlevsel sıfır gün açıklarını tanımlayıp geliştirme kapasitesine sahip olmalı veya sadece yüksek seviyede bir hedef verildiğinde, sağlam hedeflere yönelik siber saldırılar için baştan sona yeni stratejiler tasarlayıp uygulayabilmelidir.

OpenAI, Astra'nın Hugging Face ihlalinde 'rol almadığını' belirtti. Şirket, daha yüksek kapasiteli modeller ve bunlarla ilişkili faaliyetler için daha sıkı güvenlik kontrolleri uygulayacağını ifade etti. Astra için de 'riskli eylemler ve ajans uygulamaları arasındaki uyumsuzluklar' için 'evrensel izleme' uygulanacağı bildirildi.