移动平台
2026/7/28 10:45

月之暗面正式开源Kimi K3模型 参数规模达2.8万亿

0
0

C114讯 7月28日消息(颜翊)7月28日,月之暗面宣布正式开源其最新大模型Kimi K3,同步公开模型权重、完整技术报告,并开放支撑训练的关键基础设施技术,包括高性能通信库MoonEP、注意力算子FlashKDA及分布式Agent沙箱系统AgentEnv。

Kimi K3为当前月之暗面能力最强的模型,参数规模达2.8万亿,采用混合专家(MoE)架构,原生支持视觉理解,并支持100万token上下文窗口。尽管参数量约为前代Kimi K2.5的3倍,但通过Kimi Delta Attention、Attention Residuals及MoonEP等技术创新,单位算力下的智能产出效率提升约2.5倍。

根据官方披露,Kimi K3模型权重可自由使用于内部研发及终端产品集成,允许商业用途。配套发布的技术报告详细披露了长上下文建模、稀疏MoE训练稳定性、视觉编码器训练方法及后训练评估体系等核心技术细节。

同时开源的三项Infra技术MoonEP、FlashKDA 和 AgentEnv,覆盖从高性能通信、高性能算子到分布式 RL 环境的关键链路。

月之暗面表示,开源旨在降低获取智能的门槛,推动创新,并赋予用户对数据更大的控制权、隐私保护和所有权。

免责声明:本文仅代表作者个人观点,与C114通信网无关。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。

给作者点赞
0 VS 0
写得不太好

C114简介     联系我们     网站地图

Copyright©1999-2025 c114 All Rights Reserved 沪ICP备12002291号-4

C114通信网版权所有 举报电话:021-54451141 用户注销