Süper zeka geliyor, buna izin vermeli miyiz?

Yapay zeka şirketleri, süper zeka geliştirmeyi kaçınılmaz görüyor. Ancak son zamanlarda yaşanan güvenlik olayları, insanlardan daha yetenekli olan yapay zeka sistemlerinin devreye girmesiyle ortaya çıkabilecek tehlikeleri gözler önüne seriyor. Peki, bu sistemlerin ne yapacağını güvenilir bir şekilde kontrol edemezsek ne olacak?

TechCrunch'ın Equity podcast'inin bu bölümünde Rebecca Bellan, yapay zeka araştırmacısı ve girişimci Connor Leahy ile bir araya geliyor. Leahy, şimdi ABD'de ControlAI adlı kar amacı gütmeyen kuruluşun İcra Direktörü olarak görev yapıyor. Bu kuruluş, yapay zeka güvenliği konusunda daha radikal bir yaklaşım benimsiyor: şirketlerin süper zeka geliştirmesini durdurmak.

Leahy, bu risklerin yalnızca uyum ve sınırlama ile yönetilemeyecek kadar büyük olduğunu düşünüyor. Altı ay önce mantıksız görünen bu düşünceler, şimdi yeni yasalarla destekleniyor.