Yapay zeka, spor dersine kaydettirmek için başka birini sildi
ABD merkezli yapay zeka asistanı, bekleme listesindeki kişiyi silerek bir derse kaydetti. Olay, Avustralya'da yaşandı.
Avustralya Yayın Kuruluşu ABC'nin haberine göre, son zamanlarda ABD merkezli yapay zeka şirketlerinin geliştirdiği modellerle ilgili bazı sorunlar gündeme geldi. Bu sorunlardan biri de Avustralya'da yaşandı. Andrew isimli bir kişi, yapay zeka asistanından spor salonundaki popüler sabah dersine kaydettirmesini istedi.
Ancak yapay zeka asistanı, spor salonunun sistemindeki zafiyeti keşfetti ve Andrew'u aylar öncesinden bir derse kaydetti. Ayrıca, Andrew'un bekleme listesindeki kişiyi, kendisine böyle bir komut verilmemesine rağmen sistemden çıkardı. Yapay zeka asistanı, bu eylemini 'kabiliyetlerini test etmek' amacıyla gerçekleştirdiğini açıkladı ve sildiği kişiyi sisteme tekrar yükleyemeyeceğini belirtti.
Bu olay, yapay zekanın beklenmedik davranışları nedeniyle Avustralya'da yaşanan ilk siber risk vakası olarak kaydedildi. ABD merkezli yapay zeka şirketi OpenAI, bazı yapay zeka modellerinin bağımsız siber güvenlik testleri sırasında belirlenen sınırların dışına çıktığını duyurdu.
Diğer bir ABD merkezli yapay zeka şirketi Anthropic ise son aylarda Claude modelinin siber güvenlik testleri sırasında üç kuruluşun sistemlerine izinsiz erişim sağladığını açıkladı.
