Nvidia, microsoft ile açık AI güvenlik ittifakı Kurdu

Nvidia, Pazartesi günü Microsoft, SpaceX, IBM ve diğer teknoloji firmalarıyla birlikte açık kaynaklı yapay zeka güvenlik araçları oluşturmak amacıyla bir ittifak kurduğunu duyurdu. Yeni oluşturulan Açık Güvenli Yapay Zeka İttifakı (Open Secure AI Alliance), açık teknolojiler kullanarak güvenlik açıklarını gidermeyi ve ifşa etmeyi hedefliyor; ileri düzey modellerden gelen saldırılara karşı etkili bir savunma için açık araçlara ihtiyaç olduğunu belirtiyor.

Bu girişim, OpenAI'nin bir modelinin kontrol dışına çıkıp test sırasında başka bir şirkete saldırmasının ardından, gelişmiş yapay zeka sistemlerinin güvenliği konusundaki endişelerin artmasıyla doğrudan bağlantılı.

Hugging Face adlı şirket, Amerika Birleşik Devletleri'ndeki en iyi modellerin kullanımını kısıtlayan sıkı güvenlik önlemleri nedeniyle kendisini korumak için bir Çin açık ağırlıklı modelini kullanmak zorunda kaldığını açıkladı; yaşanan bu güvenlik ihlali, siber savunucuların kendi altyapılarında çalıştırabilecekleri açık ve gelişmiş yapay zeka sistemlerine acilen ihtiyaç duyulduğunu gösterdi.

İttifakın temel amacının dünyanın her yerindeki siber savunucuların güvenebilecekleri ve kontrol edebilecekleri açık ve gelişmiş araçlara erişimini sağlamak olduğu vurgulandı.

Bulut bilişim, siber güvenlik, kurumsal yazılım, açık kaynak vakıfları ve yapay zeka araştırmaları alanlarında faaliyet gösteren çok sayıda kuruluşun katıldığı ittifakın ilk ortakları arasında Adobe, Cadence, Capital One, Cisco, Cloudera, Cloudflare, Cognition, CrowdStrike, Databricks, Dell Technologies, DoorDash, Elastic, HPE, Hugging Face, IBM, LangChain, Linux Foundation, Microsoft, NAVER, NetApp, Nous Research, OpenClaw, Palantir, Palo Alto Networks, Red Hat, Reflection AI, Salesforce, SAP, ServiceNow, Siemens, SK Telecom, Snowflake, SpaceXAI, Synopsys, Thinking Machines Lab ve TrendAI yer alıyor.

Ancak, OpenAI, Google ve Anthropic gibi önde gelen ABD yapay zeka şirketlerinin ittifaktan açıkça eksik olması dikkat çekti. İttifak, dünyanın en yetenekli yapay zeka modellerinin açık kalması gerekip gerekmediği konusunda artan gerilimler arasında ortaya çıkıyor.

Çinli şirketler, Moonshot AI'nin Kimi K3 gibi giderek daha güçlü açık ağırlıklı modeller yayınlayarak, ABD laboratuvarlarının genelde kapalı ve özel kalan sınır sistemleri izleme stratejisini sorguluyorlar.

Nvidia ve ortakları, yapay zekanın güvenliğinin, hem kapalı hem de açık modellere erişim gerektirdiğini savunarak, savunucuların ortaya çıkan tehditlere karşı koymak için araçlara ihtiyaç duyduğunu vurguluyor.

Bu duyuru, Trump yönetiminin son dönemde keskin Çin modellerine erişimi kısıtlama olasılığını değerlendirdiği ve Nvidia'nın öncülük ettiği bir endüstri hareketinin ardından geldi. Google ve OpenAI, bu mektubu geç de olsa imzaladı; ancak Anthropic hala eksik.