Google Earth'ün yapay zeka aracı dezenformasyon riski nedeniyle durduruldu

TechScape bülteninde bu hafta, Google Earth'ün tartışma yaratan bir kararı, 'Yapay Zekanın Nostradamus'u' olarak anılan bir yatırımcının ani düşüşü ve kontrolden çıkan yapay zeka ajanlarının faaliyetleri ele alınıyor.

Geçtiğimiz perşembe günü Google, uydu görüntüsü yazılımı Google Earth kullanıcılarının, baktıkları herhangi bir konuma yerleştirmek üzere yapay zeka destekli görseller üretebileceğini duyurmuştu. Google, bu aracın öğrencilerin geçmişi görselleştirmesine yardımcı olabileceğini, profesyonel emlak planları oluşturabileceğini ya da favori mekanlara yeni bir görünüm kazandırabileceğini belirtmişti. Ancak bu açıklamanın hemen ardından kullanıcılar özelliğin sınırlarını test etmeye başladı ve ortada neredeyse hiç sınır olmadığı görüldü.

Yapay zeka araştırmacısı Henk van Ess, Meksika sınırına yakın mültecileri gösteren ve yapay zeka ile oluşturduğu görselleri paylaştı. Van Ess ayrıca İran'a nükleer santral yerleştirdiğini belirterek sosyal medyada Google'ın ne yaptığını sorguladı. Ürettiği bir başka görselde ise Gazze'de yapay olarak yarattığı sahte bir hastanenin yakınındaki bomba krateri yer aldı. Yapılan testlerde de benzer şekilde bir konum seçilip 'görsel oluştur' butonuna basılarak ve talimat girilerek New York'a akın eden mültecileri gösteren tedirgin edici görüntüler elde edildi.

Uydu görüntüleri, gazeteciler ve araştırmacılar tarafından özellikle erişilemeyen yerlerdeki küresel krizlerin boyutlarını ve gerçeklerini ortaya koymak için yaygın olarak kullanılıyor. Uydu fotoğraflarının gücü ilk olarak 2020 yılında, BuzzFeed News'ün Çin'in Uygur gözaltı kamplarının konumunu ve genişlemesini ortaya çıkaran haberiyle Pulitzer Ödülü kazanmasıyla anlaşılmıştı. Bu görüntülerde kamp duvarları içindeki fabrikalar ilk kez belgelenmişti. Gazeteciler bu çalışmayı, Google destekli ve 2017'de dev şirket tarafından satın alınan uydu firması Planet Labs ile birlikte yürütmüştü.

Krizleri anlamak için uydu görüntülerinin kullanımı, son iki yılda İsrail'in Gazze'de yarattığı yıkımın gözler önüne serilmesiyle hız kazandı. İsrail'in 365 kilometrekarelik şeritteki uzun süreli saldırılarından önceki ve sonraki uydu fotoğrafları, şehirlerin tamamen yerle bir olduğunu gösteriyor. Ayrıca uydu görüntüleri Sudan'daki krizin insan kayıplarını gözler önüne sermekte de kullanıldı. Kasım 2025'te uzaydan çekilen görüntüler, Sudan'ın kuşatma altındaki El Fasir şehrine yakın noktalarda kan lekelerini ve insan cesedine benzetilen kalıntıları ortaya koymuştu.

Google'ın uydu görüntülerinde dönüşüm yapılmasına olanak tanıyan bu özelliği, potansiyel bir dezenformasyon kabusu olarak değerlendiriliyor. Uydu fotoğrafları iddialara bir otorite ve doğruluk katmanı kazandırıyor ve erişilemeyen küresel olayları anlamak için kullanılıyor. Yapay zeka görsellerinin çoğaldığı bir dönemde, yeryüzündeki insanlar tarafından çekilen ve kamuoyunda daha fazla şüpheyle karşılanan fotoğraflara kıyasla uydu görüntüleri çok daha tartışılamaz hissediliyor. Gerçek yerlerin uydu fotoğraflarının üzerine herhangi bir görselin eklenmesine izin verilmesi, gerçeğin ayırt edilmesini imkansız hale getirebilir.

Beklendiği gibi Google, daha sıkı denetim mekanizmaları geliştirmek üzere bu özelliği geri çekti, bu da gelecekte tekrar sunulabileceği anlamına geliyor. Şirketten yapılan açıklamada, insanların dünyanın güvenilir bir görünümü için Google Earth'e güvendiği vurgulanarak, coğrafi uzamsal profesyonellerin bu özelliği yararlı amaçlarla kullandığının görüldüğü, ancak bazı kullanıcıların politika ihlali teşkil eden görseller paylaştığının da tespit edildiği ifade edildi.

Popüler podcaster Tim Ferriss'in yapay zekanın geleceğine ilişkin teorileri nedeniyle 'kehanete en yakın kişi' olarak nitelendirdiği 24 yaşındaki yatırımcı Leopold Aschenbrenner, geçtiğimiz hafta milyarlarca dolarlık hedge fonunun yatırımlarının erimesiyle sarsıldı. Aschenbrenner, fonunun kamu varlıklarının çoğunu bir rakibine satmak zorunda kalmasıyla büyük bir darbe aldı.

Aschenbrenner geniş kitleler tarafından bilinmese de Silikon Vadisi çevrelerinde tanınıyor. Üniversiteden 2021'de mezun olduktan sonra iflas eden kripto borsası FTX'te çalışmaya başladı, burası çökünce OpenAI'a katıldı. Wall Street Journal'ın haberine göre Aschenbrenner, bir Anthropic yöneticisinin eşine hassas bilgileri sızdırdığı iddiasıyla OpenAI'dan kovuldu. 2024 yılında 'Durumsal Farkındalık: Önümüzdeki On Yıl' adlı 165 sayfalık bir makale kaleme alan genç yatırımcı, bu çalışmayla teknoloji dünyasında ün kazandı.

Makalesinde yapay zekanın olağanüstü bir tekno-kapital ivme başlattığını ve dünyanın yakında uyanacağını savunan Aschenbrenner, bu çıkışının ardından Durumsal Farkındalık adını verdiği hedge fonu için Silikon Vadisi'nden önemli yatırımcıları topladı ve fon hızla büyüdü.

Ancak Durumsal Farkındalık fonu Wall Street'in olağan tedbirlerine uymayarak hisse senedi almak için borçlanma yoluna gitti. Piyasalar kötü gittiğinde güvenlik ağı bulunmayan bu riskli strateji, son ayda yapay zeka hisselerinin düşüşü ve teknolojinin potansiyeline yönelik şüphelerin artmasıyla fonu zor durumda bıraktı. Kredilerini geri ödemek zorunda kalan fon, yatırımlarını acil satışla elden çıkardı ve milyarlarca dolarlık varlığı eridi.

Öte yandan son birkaç hafta içinde Anthropic ve OpenAI, yapay zeka modellerinin dış kuruluşlara karşı izinsiz siber saldırı operasyonları gerçekleştirdiğini açıkladı. Bu sızma girişimleri, henüz piyasaya sürülmemiş yapay zeka modellerinin yalıtılmış ve kontrollü ortamlarda gerçekleştirilen testleri sırasında yaşandı.

OpenAI örneğinde, otonom bir yapay zeka ajanı temmuz ayı başlarında yapay zeka modellerine ev sahipliği yapan geliştirici platformu Hugging Face'e karşı günlerce süren bir saldırı düzenledi. Ajan ayrıca Modal Labs adlı yapay zeka girişiminin bir müşterisinin sistemine de sızdı. Anthropic ise geçen hafta yaptığı açıklamada, siber güvenlik testi sırasında insan hatası nedeniyle halka açık internete erişim sağlayan yapay zeka modellerinin üç gizli kuruluşa sızdığını bildirdi.

Test ortamlarından kaçarak saldırı düzenleyen yapay zeka ajanlarına ilişkin bu raporlar, artan siber güvenlik endişeleri ve sektöre duyulan güvensizlik ortamında teknoloji ve medyada büyük yankı uyandırdı. Bu olaylar, siber saldırıların ne kadar önemli olduğu ve gelecekte nasıl durdurulacağı konusunda teknoloji uzmanlarını böldü.

Yapay zeka geliştirme süreçlerinin uzun soluklu sorunlarından biri, modellerin bir görevi tamamlama talimatı aldıklarında öngörülemez şekillerde hareket edebilmesi. Örneğin bir yarış oyununu kazanması talimat edilen yapay zeka, başarılı olmak için sadece hızlı sürmeye çalışmakla kalmayıp, oyunun açıklarını veya pistteki kestirme yolları arayabiliyor. 'Hile yapmak' veya 'yalan söylemek' olarak bilinen bu durum test aşamalarında sıklıkla görülüyor.

OpenAI'ın Hugging Face'e yönelik sızma girişimi bu davranışın uç bir örneğini oluştururken, yapay zekadaki ilerlemelerin bu çözülmemiş sorunları nasıl derinleştirdiğini gözler önüne seriyor. Hedeflerine ulaşmak için kontrolden çıkan modeller, artık video oyunlarındaki bir hatayı bulmaktan çok daha büyük ve zarar verici sonuçlar doğurabilecek kadar güçlü.

Siber güvenlik uzmanları yapay zekanın güvenlik açıklarını bulma konusunda inanılmaz bir yetenek kazandığı konusunda hemfikir olsa da, bazıları OpenAI'ın bu olayının şirketin teknolojisinin korkutucu derecede güçlü ve bu nedenle son derece değerli olduğu yönündeki pazarlama anlatısına hizmet ettiğini belirtiyor. Diğer uzmanlar ise teknolojinin yeni kabiliyetler kazanmasıyla birlikte yapay zekanın siber güvenlik tehdidine karşı bir uyarı zarı niteliğinde olduğunu ifade ediyor.

Siber saldırı olaylarının yeni bir dönemin başlangıcı mı yoksa sektörün söylemlerinin bir parçası mı olduğu tartışılırken, teknoloji çevresinde tutarlı bir politika ve endüstri standardının eksikliği dikkat çekiyor. Uzmanlar Bruce Schneier ve Barath Raghavan'ın belirttiği gibi, endüstri uzun süredir yapay zekanın bir hedefe ulaşıp ulaşamayacağına odaklanmış durumda, ancak o hedefe nasıl ulaştığı yeterince denetlenmiyor.

Modellerin ne kadar iyi kod yazdığını veya standart sınavları geçtiğini gösteren pek çok kıyaslama bulunurken, bir sistemin gerçekten amaçlanan şeyi yapıp yapmadığını ölçen bir mekanizma henüz mevcut değil. Güvenilir yapay zeka ajanları oluşturabilmek için bu tür ölçütlerin geliştirilmesi ve düzenli olarak test edilmesi gerekiyor.