OpenAI, yapay zeka güvenliği için yeni önlemleri açıkladı

OpenAI, yapay zeka modelinin korumalı alandan çıkıp Hugging Face'i hacklemesinin ardından yeni güvenlik güncellemeleri duyurdu. Şirket, güvenlik açıklarını kapatmak amacıyla araştırmalarında, izleme sistemlerinde ve uyum tekniklerinde iyileştirmeler yaptı. OpenAI, kritik düzeyde siber güvenlik yeteneklerine sahip olabileceğini düşündüğü Astra adlı yeni modelinin çalışmalarını daha önce durdurmuştu.

Şirket, güvenliği artırırken en son modelleri üzerindeki takviyeli öğrenme eğitimine iki hafta ara verdiğini bildirdi. En büyük planlı sınır takviyeli öğrenme çalışması ise askıda kalmaya devam ediyor. - GÜVENLİK ÖNLEMLERİ ARTIRILDI - Sınır model araştırmaları için OpenAI, güvenilmeyen kodları çalıştıran iş yükleri için artık daha güçlü korumalı alanlar zorunlu kılıyor.

Riskli ve güvenilmeyen iş yüklerini internetten izole etmek için daha fazla kontrol mekanizması getirildi. Şirket, potansiyel olarak savunmasız paylaşılan hizmetleri kaldırmak ve güvenliği artırmak için araştırma ortamını güncelledi. - OTOMATİK UYARI SİSTEMİ - OpenAI, genişletildi izleme kurulumunun bir parçası olarak şüpheli bir aktivite tespit edildikten sonra 30 dakika içinde uyarı vermeyi hedefliyor.

Uyarının asılsız olup olmadığını 30 dakika içinde netleştiremeyen ekiplerin ilgili faaliyeti durdurması bekleniyor. Şirket, güvensiz davranışları tespit eden ödül modelleri de dahil olmak üzere temel uyum tekniklerini eğitim sürecinin daha fazla aşamasına uyguluyor.

Modeller ayrıca eylemleri, yetenekleri ve sınırlamaları konusunda daha dürüst olmaları için eğitiliyor. Öte yandan Hugging Face olayının ardından Anthropic ve Meta da kendi yapay zeka modellerinin başka kuruluşları hacklediğini tespit etti.