Uzmanlar yapay zeka teknolojisinin risklerine dikkat çekiyor

Yapay zeka şirketi Anthropic'in eski çalışanı Jacob Coxon, yapay zekanın hızlı gelişimini endişe verici bulduğunu belirtti. Coxon'un bu paylaşımının ardından, sektördeki diğer uzmanlar da konuya dair görüşlerini ifade etmeye başladı. Başka bir Anthropic çalışanı Samuel Marks, ABD merkezli sosyal medya platformunda Coxon'un sözlerine yanıt vererek, yapay zeka geliştiricilerinin insanlığın yok olmasına yol açabilecek risklerin farkında olduğunu savundu.

Bu risklerin, önümüzdeki yıllarda gerçekleşebileceğine inandıklarını ifade eden Marks, yapay zekanın geliştirilmesinin neden devam ettiğine dair bazı açıklamalarda bulundu. Ticari teşviklerin yanı sıra, daha az sorumlu ve teknolojiyi kötüye kullanabilecek diğer geliştiricilerle bir rekabet içinde olunduğunu vurguladı.

Marks, yapay zekanın istenilen şekilde programlanamadığını ve sıklıkla uygunsuz davranışlar sergilediğini de dile getirdi. Yapay zekanın daha güvenli bir şekilde geliştirilmesi için sürecin yavaşlatılması gerektiğini belirten Marks, uyumlu hale getirebilecek yöntemlerin mevcut olduğunu, ancak bunların yeterince etkili olmadığını belirtti.

ABD merkezli yapay zeka şirketi OpenAI'nin Başbilimcisi Jakub Pachocki de yapay zekanın hızlı gelişimi hakkında uyarılarda bulundu. Pachocki, makine zekasındaki hızlı artışın doğuracağı sonuçlara kimsenin hazırlıklı olmadığını ifade etti. OpenAI'nin yapay zekanın uyumlanması ve izlenmesi konusunda çözüm arayışını sürdüreceğini belirten Pachocki, bu konuda daha kapsamlı önlemler alınması gerektiğini de ekledi.

Google'ın yapay zeka birimi DeepMind'ta eski çalışan olan Alex Turner, Coxon'un yapay zekanın tehlikelerine dair açıklamalarını sosyal medya hesabından alıntıladı. Haziranda DeepMind'daki görevinden ayrıldığını belirten Turner, birçok araştırmacının, gezegendeki herkesi öldürebilecek bir şey inşa ettiklerine inandığını ifade etti.

OpenAI'da araştırmacı olan Jason Wolfe, yapay zekanın insanlık için kötü sonuçlar doğurabileceği konusunda endişelerini dile getirdi. Wolfe, korkutucu hızla ilerleyen bu süreçte doğru yoldan sapılmazsa insanlığın oldukça şanslı olabileceğini vurguladı. Ayrıca bu sorunun tek bir şirket ya da ülke tarafından çözülemeyeceğini, yapay zekanın kapasite artışına karşı bir koordinasyona ihtiyaç duyduğunu belirtti.

DeepMind'ta eski kıdemli araştırmacı Jonathan Richard Schwarz, sosyal medyadaki açıklamasında, bu laboratuvarların elinde toplanan güce ilişkin ciddi endişeleri olduğunu ve bu nedenle DeepMind ile 7 yıl önce yollarını ayırdığını aktardı. O zamandan bu yana gelen teklifleri reddettiğini belirten Schwarz, bu alanda yaşananların toplum açısından son derece sağlıksız olduğunu ifade etti.

Jacob Coxon, yapay zeka devleri OpenAI ve Anthropic bünyesinde son üç yıldır araştırmacı olarak görev yaptığını açıkladı. X sosyal medya hesabından yaptığı bir paylaşımda, her iki şirketin de yeterince sorumlu davranmadığını öne sürdü. Coxon, şirketlerin kendi kendini geliştirebilen süper zekaya ulaşmak için kontrolsüz bir yarış içinde olduğunu belirterek, "Bu teknolojinin gücünü hafife almayın.

Bunlar yakında her şeyi hackleyebilecek, herhangi bir alanı bir gecede dönüştürebilecek, insanüstü sistemler haline gelecek. Bu alanlarda yaşanan ilerlemeler hız kesmeden devam ediyor." dedi.

Coxon, yapay zeka modellerini geliştiren sektör çalışanlarının bu sistemlerin 10 yıl içinde insanlığı öldürebileceğine inandığını öne sürdü. Yöneticilerin kamuoyu önünde ılımlı konuşmalarına rağmen kapalı kapılar ardında büyük bir korku yaşadıklarını iddia etti.