品玩7月28日讯,月之暗面(Moonshot AI)宣布正式开源Kimi K3模型权重及技术报告,并同步开放MoonEP、FlashKDA和AgentEnv三项关键基础设施技术。
Kimi K3是一款拥有2.8万亿参数的混合专家(MoE)模型,具备原生视觉理解能力并支持100万Token上下文窗口。通过Kimi Delta Attention、Attention Residuals等架构创新,该模型在算力受限条件下实现了约2.5倍的规模化效率提升。
此次开源还涵盖了支撑模型训练的核心基础设施:高性能通信库MoonEP、高性能算子FlashKDA以及Agent沙箱系统AgentEnv。月之暗面表示,此次开放旨在降低前沿智能的部署门槛,推动AGI研究与开放生态的发展。
打开网易新闻 查看精彩图片
热门跟贴