Kimi K3发布后，马斯克：我们的2万亿参数模型将完成初始训练，有可能超越Kimi

7月17日，月之暗面发布新一代Kimi K3，参数规模达2.8万亿，为目前全球参数最大的开源模型。消息传出后，美股盘前纳斯达克100指数期货一度跌逾1.8%，英伟达等AI龙头普遍走低，市场重现“DeepSeek时刻”。

月之暗面公布的信息显示，Kimi K3模型原生支持图像输入和100万Token上下文，采用Kimi Delta Attention（KDA）、注意力残差（Attention Residuals）以及高度稀疏的混合专家架构，处理每个Token时仅从896个专家中有效激活16个，以提高算力利用效率。

月之暗面称，相关架构和数据训练方法使其整体扩展效率较Kimi K2提高约2.5倍，并补充道Kimi K3在内部评估中，端到端知识工作能力领先GPT-5.5和Claude Opus 4.8。

发布当日，马斯克在相关评测报道评论区留言：“令人印象深刻。”

7月18日，马斯克再次发表评论称，“我们的2万亿参数模型将在下周完成初始训练，有可能超越Kimi。”

Kimi则回应称，“@ElonMusk 欢迎加入「2 万亿+」俱乐部 ?? ”

据每日经济新闻报道，目前，Kimi K3的完整模型权重尚未发布，月之暗面表示将于今年7月27日前发布。更多技术细节将随技术报告一并公布。

来源|观察者网

原标题：《Kimi K3发布后，马斯克：我们的2万亿参数模型将完成初始训练，有可能超越Kimi》

阅读原文