Kimi K3, Moonshot AI tarafından 2,8 trilyon parametre, bir milyon token bağlam kapasitesi ve görsel yeteneklerle tanıtıldı. Çin’in açık yapay zekâ yarışındaki yeni modeli, güçlü te
Moonshot AI, 2,8 trilyon parametreli Kimi K3 modelini tanıttı.
Çin merkezli Moonshot AI, yapay zekâ yarışında parametre ölçeğini yeni bir düzeye taşıyan Kimi K3 modelini kullanıma sundu.
Kimi K3; uzun periyodik yazılım geliştirme, araştırma, doküman üretimi, görsel tahlil ve çok etaplı vazifeleri insan müdahalesi sonlu biçimde tamamlama emeliyle geliştirildi.
Ancak Moonshot AI’nin duyurusundaki en dikkat cazibeli detay sadece modelin büyüklüğü değildi.
Parametreler, yapay zekâ modelinin eğitim sırasında öğrendiği bağlantıları temsil eden sayısal yüklerden oluşuyor.
Kimi K3, “uzmanlar karışımı” olarak bilinen Mixture of Experts mimarisini kullanıyor. Sistem toplam 896 uzman modül içerirken her süreç sırasında bunların sadece 16’sını aktifleştiriyor.
Bu yapı, 2,8 trilyon parametrenin tamamının her yanıtta çalıştırılmasını engelliyor. Böylelikle modelin toplam kapasitesi büyürken hesaplama maliyetinin daha denetimli tutulması amaçlanıyor.
Tüm ayrıntılar için habere göz atın.