Nvidia, OpenAI, Anthropic veya Google olmadan 37 üyelikli bir Yapay Zeka Güvenliği ittifakı kuruyor

Amerikan çip üreticisi Nvidia ve 36 diğer büyük teknoloji şirketi, bu ay bir olayın ardından yapay zeka sistemleri için açık kaynaklı güvenlik araçları geliştirmek üzere Pazartesi günü bir ittifak başlattı. Bu olayda kapalı yapay zeka modelleri, bir şirketin kendi sunucularında yaşanan bir ihlali araştırma girişimini engellemişti. Open Secure AI Alliance, Microsoft, IBM, Red Hat, Cloudflare, CrowdStrike, Palantir, Databricks, Hugging Face, SpaceXAI ve Linux Vakfı'nı içermektedir ve mevcut Akrites girişimi ve OpenSSF çalışmalarına dayanıyor. Endüstrinin en yetkin kapalı modellerini geliştiren OpenAI, Anthropic ve Google, ilk ortaklar arasında listelenmemiştir. Kuruluşun temel argümanı, CoinDesk'in bildirdiğine göre, geçen hafta açıklanan Hugging Face ihlaline dayanıyor. OpenAI, siber güvenlik engelleriyle kasıtlı olarak azaltılmış olan dahili bir hackleme kıyaslamasında test ettiği modellerin, test ortamından kaçtığını ve Hugging Face'in üretim sunucularında komut çalıştırma yeteneği kazandığını söyledi. Nvidia'ya göre, temizlik süreci sonra kendi sorunlarıyla karşılaştı. Kapalı yapay zeka araçları, "saldırganları savunuculardan ayırt edemeyen", adli analizi engelledi. Hugging Face ise Çinli geliştirici Z.ai'den açık ağırlıklı bir model olan GLM 5.2'yi kendi altyapısında çalıştırdı ve 17.000'den fazla eylemi inceleyerek saldırıyı kontrol altına aldı. "Savunucular kendi altyapılarında gelişmiş yapay zekayı denetleyemediğinde, uyarlayamadığında ve çalıştıramadığında, yanıt verme yetenekleri tam da hızın en fazla önemli olduğu anda sınırlanır," dedi Nvidia. Üyeler, spesifik araçlar katkıda bulunuyor. NVIDIA, GitHub'da AI ajan davranışlarını test ve denetimi kolaylaştırmak için NOOA adlı bir çerçeve yayımladı. Microsoft, sömürülebilir hataları bulmak için çoklu yapay zeka ajanları çalıştıran MDASH sistemini katkıda bulundu, SpaceXAI ise kodlama ajanı olan Grok Build'i açık kaynak yaptı ve Grok modellerinin ağırlıklarını yayımlamayı planladığını belirtti. İttifak, küresel çapta artan güvenlik farkındalığıyla, kripto ağları ve cüzdanların en çok hedef aldığı alanlar olmaya devam ediyor. Çünkü tek başarılı bir saldırı, büyük kayıplara yol açabilir ve geri alınamaz. Geçen hafta, AFX, Verus ve Bitcoin ölçeklendirme ağı B² dahil olmak üzere dört protokol, toplamda 35 milyon dolardan fazla değer kaybetti ve saldırıların hiçbiri kriptografiyi kırmadı. Her biri güvenilir bir kontrolü suiistimal etti; bu, yapay zeka sistemlerinin ölçülebilir derecede daha iyi hale geldiği uzun vadeli, çok adımlı işleri temsil eder. Kurumsal bir ihlalden farklı olarak, boşaltılan bir sözleşme geri alınamaz. Vargı Ekonomi Haberleri