OpenAI bilim insanı Pachocki yapay zeka sonuçlarından endişeli

Jakub Pachocki blog yazısında makine zekasındaki sürekli ve hızlı yükselişin sonuçlarına kimsenin hazırlıklı olmamasından endişe duyduğunu belirtti. Bu paylaşım ChatGPT üreticisinin şimdiye kadarki en güçlü ürünü olarak adlandırdığı GPT-6 Astra'yı piyasaya sürmesinden sadece birkaç gün sonra geldi.

OpenAI'ın yanı sıra Anthropic gibi diğer yapay zeka firmaları yapay zeka ajanlarının otonom olarak hareket ederek diğer şirketlere karşı siber saldırılar gerçekleştirdiğine dair açıklamalar yapmıştı. Temmuz ayında OpenAI insan talimatıyla tek başına çalışabilen yapay zeka sistemleri olan yapay zeka ajanlarının Hugging Face adlı teknoloji platformunu hacklediği olayın benzerinin görülmediğini söyledi.

Başka bir raporda firmanın yapay zeka ajanlarının aylar önce bir Alman internet sitesini de ele geçirdiği iddia edildi. Pachocki son blog yazısında inanılmaz derecede zeki makinelerin olduğu bir dünyaya geçişle karşı karşıya olunduğunu ve bu geçişin insanlık için iyi sonuçlanmasını sağlamanın gerektiğini yazdı.

OpenAI savunma sistemleri kurmaya ve uyum sağlamaya yönelik teknik çözümler aramaya devam edeceğini söyledi. Pachocki firmanın ilerleyen dönemdeki önceliklerinden birinin insan araştırmacıların da sürecin bir parçası olarak kalmasını sağlarken yapay zekadaki gelişmelere ayak uyduracak otomatik yapay zeka araştırmacısı geliştirmek olacağını sözlerine ekledi.

Cambridge Üniversitesi Minderoo Teknoloji ve Demokrasi Merkezi Başkanı Profesör Gina Neff bu öneriyi insanların güvenliğini sağlamak için daha iyi yapay zeka önlemleri düzenlemeler veya güvenceler yerine bu sorunları araştırmak üzere dahili yapay zeka ajanları geliştirmeyi önerdikleri şeklinde değerlendirdi.

OpenAI'ın modellerinin siber güvenlik iş kayıpları hatalar yanlışlıklar ve dolandırıcılık gibi sorunlara yol açmasıyla ilgili artan endişelere verilen bu tür yanıtlar kesinlikle yeterli değil. Savunuculuk grubu Encode AI'ın genel hukuk müşaviri Nathan Calvin gelişmiş yapay zeka modeli geliştirmenin içerdiği tehlikeler konusunda Pachocki ile aynı fikirde olduğunu söyledi ancak OpenAI'ın şeffaf olmaya yanaşmadığını ve bunun da uyarıların sadece kendi çıkarlarına yönelik abartı laflar olarak değerlendirilme riskini taşıdığı anlamına geldiğini iddia etti.

X'te Jakub ve OpenAI'daki diğer kişiler yapay zeka sektöründeki ilgili kişilerin işlerin yolunda gitmesi için onlarla birlikte hareket etmesini istiyorlarsa yapabilecekleri en önemli şeylerden birinin temkinli olmaları gerektiğini düşündüren şeyler hakkında çok daha fazla bilgi paylaşmak olduğunu yazdı.

Küresel düzenlemeler yapay zekanın gelişme hızına ayak uydurmakta zorlanıyor. Avrupa Birliği'nin Yapay Zeka Yasası 2 Ağustos'ta yürürlüğe girdi ve OpenAI gibi yapay zeka devlerinin Avrupa'da satılmalarına izin verilmeden önce en güçlü modellerinin otonom olarak siber saldırı başlatamayacağını veya insan kontrolünden kaçamayacağını kanıtlamalarını şart koşuyor.

Ancak yasanın yetki alanı Avrupa ile sınırlı olduğundan başka bir yerde geliştirilen kontrolden çıkmış bir yapay zekanın kıtayı tehdit etmesini engelleyemez.

Pachocki blog yazısında üçüncü taraf denetçiler ağı veya devlet kurumları tarafından uygulanabilecek yasal veya uluslararası düzeyde zorunlu minimum güvenlik eşiklerinin belirlenmesi çağrısında bulundu.

Yapay zeka laboratuvarlarının ölçeklendirmeye devam etmelerine veya gelişmiş modelleri kullanıma sunmalarına izin verilmeden önce bu eşikleri karşılamaları ihtiyacından söz etti.

Ortak güvenlik önlemleri oluşturulana kadar şirketlerin yapay zeka geliştirme süreçlerinin yavaşlatmasının yaygınlaşmasını umduğunu da sözlerine ekledi. Ağustos ayında OpenAI güvenliği artırmak için en gelişmiş yapay zeka modellerinden bazılarının eğitimini yavaşlattığını açıklamıştı.