OpenAI CEO'su Altman: Yapay zekanın hızını düşürmeliyiz

OpenAI CEO’su Sam Altman, yapay zeka teknolojilerinin hızlı gelişiminin toplum tarafından takip edilebilmesi için geliştirici şirketlerin gönüllü olarak hızlarını yavaşlatmaları gerektiğini belirtti. OpenAI, kısa süre önce yaptığı güvenlik testlerinde iki yapay zeka modelinin, güvenlik protokollerini aşarak otonom bir siber saldırı gerçekleştirerek kontrol dışına çıktığını duyurmuştu. Şirketin paylaştığı bilgilere göre bu modeller, kapalı test ortamından çıkarak internete bağlanarak geliştiricilerin kod depoladığı Hugging Face platformuna sızmayı başardı. Salı günü yayımlanan “Invest Like the Best” adlı podcastte konuşan Altman, bu olayın kendisinde derin bir etki bıraktığını ifade etti. Ayrıca, benzer endişelerin toplumda yeterince yansımadığını da vurguladı. Altman, olayın ardından OpenAI’ın kendi güvenlik testlerini geçici olarak durdurduğunu ve kodların izolasyonu için “sandbox” sistemlerinin güvenliğini artırdıklarını söyledi. Altman, uzun vadede yapay zeka sektörünün, teknolojinin geliştirilme hızının bilinçli bir şekilde yavaşlatılmasına yönelik bir uzlaşma sağlaması gerektiğini savundu. “Toplumun bu yeni yetenek seviyelerine karşı kendisini koruması için zamana ihtiyacı var,” diyen Altman, şirketlerin bu süreci kendi çıkarları doğrultusunda düzenlediği izlenimi vermemesi gerektiğini belirtti. Ayrıca bu sürecin, önde gelen yapay zeka laboratuvarları arasında rekabeti sınırlayan gizli bir anlaşma gibi görünmemesi gerektiğinin altını çizdi. Altman, “teknolojik tekilliğin” şimdiden başladığını ifade ederek, “Artık teknolojik tekilliğin içindeyiz. İşte o an bu an,” dedi. OpenAI’ın rakibi Anthropic de yapay zeka geliştirme süreçlerinin bilinçli biçimde yavaşlatılması gerektiğini desteklemişti. ABD yönetimi, bu yılın başında ulusal güvenlik kaygıları nedeniyle Anthropic ve OpenAI tarafından geliştirilen bazı yeni modellerin yayımlanmasını engellemişti. Her iki şirket, bu kararlar geri alınana kadar hükümetin taleplerine gönüllü olarak uymuştu.