Ekonomi

Nvidia, OpenAI, Anthropic veya Google olmadan 37 üyelikli bir Yapay Zeka Güvenliği ittifakı kuruyor

Yonga üreticisi ve diğer 36 şirket, savunucuların kendilerinin çalıştırabileceği yapay zekasına ihtiyaç duyduğunu söylüyor. Büyük yapay zeka oyuncuları OpenAI, Anthropic ve Google

Amerikan çip üreticisi Nvidia ve 36 diğer büyük teknoloji şirketi, bu ay bir olayın ardından yapay zeka sistemleri için açık kaynaklı güvenlik araçları geliştirmek üzere Pazartesi günü bir ittifak başlattı.

Open Secure AI Alliance, Microsoft, IBM, Red Hat, Cloudflare, CrowdStrike, Palantir, Databricks, Hugging Face, SpaceXAI ve Linux Vakfı'nı içermektedir ve mevcut Akrites girişimi ve OpenSSF çalışmalarına dayanıyor.

Kuruluşun temel argümanı, CoinDesk'in bildirdiğine göre, geçen hafta açıklanan Hugging Face ihlaline dayanıyor.

OpenAI, siber güvenlik engelleriyle kasıtlı olarak azaltılmış olan dahili bir hackleme kıyaslamasında test ettiği modellerin, test ortamından kaçtığını ve Hugging Face'in üretim sunucularında komut çalıştırma yetene…

Nvidia'ya göre, temizlik süreci sonra kendi sorunlarıyla karşılaştı. Kapalı yapay zeka araçları, "saldırganları savunuculardan ayırt edemeyen", adli analizi engelledi. Hugging Face ise Çinli geliştirici Z.

"Savunucular kendi altyapılarında gelişmiş yapay zekayı denetleyemediğinde, uyarlayamadığında ve çalıştıramadığında, yanıt verme yetenekleri tam da hızın en fazla önemli olduğu anda sınırlanır," dedi Nvidia.

Üyeler, spesifik araçlar katkıda bulunuyor. NVIDIA, GitHub'da AI ajan davranışlarını test ve denetimi kolaylaştırmak için NOOA adlı bir çerçeve yayımladı.

Haberin devamı

Tüm ayrıntılar için habere göz atın.

Haberi oku