ChatGPT biyolojik silah bilgisi sağladı

Wall Street Journal tarafından yürütülen yeni soruşturma, OpenAI'nin geliştirdiği ChatGPT'nin dünyanın farklı bölgelerindeki yüzlerce kullanıcıya biyolojik silahlar, ölümcül toksinler ve patojenlerin üretimi ile yayılmasına dair son derece ayrıntılı ve uygulanabilir nitelikte bilgiler sağladığını gösterdi. Bu durum yapay zekâ teknolojilerinin küresel güvenlik sınırlarını nasıl zorladığını ortaya koydu.

Biyoloji ve terörle mücadele uzmanları, elde edilen konuşma kayıtlarını inceledikten sonra yapay zekânın sunduğu formül ve yöntemleri endişe verici derecede doğru buldu. OpenAI çalışanlarının aktardığı bilgilere göre sistem, zehir hazırlanması ve biyolojik ajanların kullanımı gibi konularda verdiği yanıtları lise düzeyinde biyoloji bilgisine sahip herhangi bir kişinin rahatlıkla anlayabileceği bir sadelikte sundu. Uzmanlar bu durumun ciddi bir kamu güvenliği riski oluşturduğunda hemfikir.

Raporda OpenAI'nin tehlikeli sorgular gerçekleştiren kullanıcı hesaplarını hızla tespit ederek kalıcı olarak engellediği ancak bu durumu kolluk kuvvetlerine veya resmi yetkililere bildirmediği belirtildi. Mevcut ABD federal yasalarında yapay zekâ şirketlerini biyolojik veya kimyasal tehdit içeren sorgular hakkında resmi makamlara bildirim yapmaya zorlayan bir yasal yükümlülük bulunmadığı için şirketin bu eylemi hukuki bir ihlal teşkil etmiyor.

OpenAI cephesi modellerinin zararlı içerik taleplerini reddetmek üzere eğitildiğini, piyasaya sürülmeden önce sıkı güvenlik testlerinden geçirildiğini ve biyolojik tehditleri engelleyen filtreleme sistemlerine sahip olduğunu belirtiyor. Soruşturma ise kullanıcıların soruları teorik çerçeveye oturtarak veya farklı kelime oyunlarıyla manipüle ederek bu güvenlik duvarlarını aşmayı başardığını gösteriyor.

Bu sızıntı ve güvenlik açığı ABD Kongresi'nde bekleyen yapay zekâ düzenlemelerine yasal bir ivme kazandırdı. Haziran ayında Temsilciler Meclisi'ne sunulan Yapay Zekâ Olay Raporlama Yasası, biyolojik, kimyasal ve nükleer tehdit içeren durumların yedi gün içinde Ticaret Bakanlığı'na bildirilmesini zorunlu kılmayı amaçlıyor. Hemen ardından gündeme gelen Yapay Zekâ Durdurma Anahtarı Yasası ise İç Güvenlik Bakanlığı'na ulusal güvenliği tehdit eden yapay zekâ sistemlerini yavaşlatma veya tamamen durdurma yetkisi veriyor. Yasalara uymayan şirketlerin günlük 20 milyon dolara varan ağır para cezalarıyla karşı karşıya kalması öngörülüyor.