OpenAI, gizlilik odaklı güvenlik sistemiyle Rakibi Anthropic'e karşı hamle yaptı

Yapay zeka modelleri güçlendikçe bu teknolojilerin kötüye kullanılma riski arttı. Bu durum, olası suistimalleri durduracak güvenlik önlemleri için yapılan çağrıları da beraberinde getirdi. Şirketler kurumsal müşterilerin gizliliğine saygı duymak ile olası sorunları takip etmek arasında hassas bir denge kurmak zorunda. - GİZLİLİK ODAKLI SİSTEM - Rakibi Anthropic karşısında avantaj elde etmek isteyen OpenAI, kötüye kullanımı izlemek için gizlilik odaklı bir yaklaşım duyurdu.

Şirket, seçili müşterilerine Private Safety Processing adını verdiği yeni bir hizmet sunuyor. Bu otomatik sistem, potansiyel suistimalleri izlerken müşteri verilerinin hiçbirini saklamıyor. Söz konusu sistem, Anthropic'in veri saklama politikasıyla doğrudan çelişiyor.

Bazı müşterilerin tepkisini çeken bu politika, yapay zeka laboratuvarının belirli modeller için kullanıcı verilerini 30 gün boyunca tutmasına izin veriyor. Bu kapsamda Mythos sınıfı modeller ve benzer yeteneklere sahip gelecek modeller yer alıyor. - TARTIŞMALI VERİ SAKLAMA - Temmuz ayında duyurulan bu politika, uygunsuzlukları incelemek ve analiz etmek amacıyla güvenlik için tasarlandı.

Büyük miktarda hassas veri işleyen ve bu verilerin yapay zeka laboratuvarı tarafından saklanmasını istemeyen bazı işletmeleri derinden endişelendiriyor. OpenAI, Sıfır Veri Saklama olarak bilinen politikaya uyarak müşterilere belirli bir gizlilik düzeyi sunuyor. ZDR, oturum başına kötüye kullanımı izlemek için OpenAI API içindeki ajanları kullanıyor.

Müşteri verileri şirket tarafından saklanmıyor ancak şirketler insan müdahalesine gerek kalmadan kötü faaliyetleri tarayabiliyor. Anthropic de Fable gibi kapsam dışı modeller hariç ZDR'ye büyük ölçüde uyuyor. - UZUN VADELİ İZLEME - OpenAI, Private Safety Processing sisteminin ZDR'nin kapsamını genişleten yeni bir teknoloji olduğunu belirtiyor.

Sistem, yalnızca tek bir konuşmayı değil birden fazla konuşmanın girdilerini ve çıktılarını değerlendiren uzun vadeli bir güvenlik izleme biçimi olarak tanımlanıyor. İzleme süreci, bir kural tetiklendiğinde etkileşimleri yakalayan ve olası kötüye kullanım belirtilerine karşı analiz eden bir ajan tarafından yürütülüyor.

Bir şirket sözcüsü TechCrunch'a yaptığı açıklamada, yeni teknolojinin OpenAI'ın birden fazla oturumda gerçekleşen kötü niyetli yapay zekâ kullanımını tespit etmesine yardımcı olduğunu belirtti. Siber saldırı için kötü amaçlı yazılım tasarlamaya çalışan kötü niyetli bir kişi, tespit edilmekten kaçınmak için isteklerini yayabilir.

Private Safety Processing, kullanıcı konuşmalarını insan incelemesine tabi tutmadan bu çoklu konuşmaları suistimal belirtileri açısından analiz edebiliyor. - VERİ PAYLAŞIMI İÇİN İLETİŞİM - Sistem tetiklendiğinde OpenAI'a belirli bir etkinlik türü konusunda uyarı veren dar tanımlı bir sinyal gönderebiliyor.

Şirket, bu sinyale dayanarak yaptırımın gerekli olup olmadığına karar verebiliyor. Sözcü, bu durumda OpenAI'ın daha fazla bağlam için müşteriye ulaşacağını ya da sorun üzerinde onlarla birlikte çalışacağını, müşterinin de kendi takdirine bağlı olarak verileri paylaşabileceğini aktardı.

Buna karşılık Anthropic, müşteri verilerinin insan tarafından incelenmesinin yalnızca küçük bir onaylı incelemeci grubu içeren kontrollü bir erişim yoluyla gerçekleşebileceğini belirtiyor. Şirketin açıklamasına göre, bu inceleme oturumlarının her biri incelemecilerin silemeyeceği veya değiştiremeyeceği kurcalamaya dayanıklı bir günlükte kaydediliyor. - ŞİRKETLER ARASI REKABET - OpenAI ile Anthropic arasındaki kurumsal rekabet şu sıralar oldukça gergin seyrediyor.

Her iki şirket de diğerine karşı avantaj kazanmak için fırsat kolluyor. Son raporlar, OpenAI'ın ikinci çeyrek büyümesinin Anthropic'e göre daha yavaş gerçekleştiğini gösterdi.

Anthropic'in yıllık gelir oranının 65 milyar dolar olduğu bildiriliyor. Anthropic yatırımcıları şirketin 2 trilyon dolar değerlemeyle halka arz edilebileceğini belirtirken, OpenAI da halka arz için çalışmalarını sürdürüyor.