Nvidia, microsoft ile açık AI güvenlik ittifakı Kurdu

Nvidia, Pazartesi günü Microsoft, SpaceX, IBM ve diğer teknoloji firmalarıyla birlikte açık kaynaklı yapay zeka güvenlik araçları oluşturmak amacıyla bir ittifak kurduğunu duyurdu. Yeni oluşturulan Açık Güvenli AI İttifakı, ileri düzey modellerden gelen saldırılara karşı etkili bir savunma için açık araçlara ihtiyaç olduğunu belirtiyor. Bu girişim, OpenAI'nin bir modelinin kontrol dışına çıkıp test sırasında başka bir şirkete saldırmasının ardından, gelişmiş yapay zeka sistemlerinin güvenliği konusundaki endişelerin artmasıyla doğrudan bağlantılı. Hugging Face adlı şirket, Amerika Birleşik Devletleri'ndeki en iyi modellerin kullanımını kısıtlayan sıkı güvenlik önlemleri nedeniyle kendisini korumak için bir Çin açık ağırlıklı modelini kullanmak zorunda kaldığını açıkladı. İttifakın kurucu üyeleri arasında Palantir, OpenClaw, Linux Vakfı, Cloudflare, Cloudera, Dell, Cisco, Adobe, Siemens ve DoorDash bulunuyor. Ancak, OpenAI, Google ve Anthropic gibi önde gelen ABD yapay zeka şirketlerinin ittifaktan açıkça eksik olması dikkat çekti. İttifak, dünyanın en yetenekli yapay zeka modellerinin açık kalması gerekip gerekmediği konusunda artan gerilimler arasında ortaya çıkıyor. Çinli şirketler, Moonshot AI'nin Kimi K3 gibi giderek daha güçlü açık ağırlıklı modeller yayınlayarak, ABD laboratuvarlarının genelde kapalı ve özel kalan sınır sistemleri izleme stratejisini sorguluyorlar. Nvidia ve ortakları, yapay zekanın güvenliğinin, hem kapalı hem de açık modellere erişim gerektirdiğini savunarak, savunucuların ortaya çıkan tehditlere karşı koymak için araçlara ihtiyaç duyduğunu vurguluyor. Bu duyuru, Trump yönetiminin son dönemde keskin Çin modellerine erişimi kısıtlama olasılığını değerlendirdiği ve Nvidia'nın öncülük ettiği bir endüstri hareketinin ardından geldi. Google ve OpenAI, bu mektubu geç de olsa imzaladı; ancak Anthropic hala eksik.