Cloud&AI
2026/7/28 10:45

月之暗面正式开源Kimi K3模型 参数规模达2.8万亿

0
0

C114讯 7月28日消息(颜翊)7月28日,月之暗面宣布正式开源其最新大模型Kimi K3,同步公开模型权重、完整技术报告,并开放支撑训练的关键基础设施技术,包括高性能通信库MoonEP、注意力算子FlashKDA及分布式Agent沙箱系统AgentEnv。

Kimi K3为当前月之暗面能力最强的模型,参数规模达2.8万亿,采用混合专家(MoE)架构,原生支持视觉理解,并支持100万token上下文窗口。尽管参数量约为前代Kimi K2.5的3倍,但通过Kimi Delta Attention、Attention Residuals及MoonEP等技术创新,单位算力下的智能产出效率提升约2.5倍。

根据官方披露,Kimi K3模型权重可自由使用于内部研发及终端产品集成,允许商业用途。配套发布的技术报告详细披露了长上下文建模、稀疏MoE训练稳定性、视觉编码器训练方法及后训练评估体系等核心技术细节。

同时开源的三项Infra技术MoonEP、FlashKDA 和 AgentEnv,覆盖从高性能通信、高性能算子到分布式 RL 环境的关键链路。

月之暗面表示,开源旨在降低获取智能的门槛,推动创新,并赋予用户对数据更大的控制权、隐私保护和所有权。

版权说明:凡注明来源为“C114通信网”的文章皆属C114版权所有,除与C114签署内容授权协议的单位外,其他单位未经允许禁止转载、摘编,违者必究。如需使用,请联系021-54451141。其中编译类仅出于传递更多信息之目的,系C114对海外相关站点最新信息的翻译稿,仅供参考,不代表证实其描述或赞同其观点,投资者据此操作,风险自担;翻译质量问题请指正

给作者点赞
0 VS 0
写得不太好

C114简介     联系我们     网站地图

Copyright©1999-2025 c114 All Rights Reserved 沪ICP备12002291号-4

C114通信网版权所有 举报电话:021-54451141 用户注销