月之暗面300人做出全球最大开源模型K3

AYi · @AYi_AInotes · X·2026-07-24 02:10·34天前
AI 导读

月之暗面(Kimi母公司)仅300人,无传统部门层级,做出2.8万亿参数开源模型K3,为目前公开最大开源模型之一。K3采用极端稀疏MoE架构(896专家每次激活16个),结合Delta Attention混合线性注意力加速百万token上下文解码,自研优化器更省算力。对比OpenAI 4500人(年底扩至8000人)的硅谷规模路线,月之暗面以精兵架构创新与极致组织效率追赶前沿。

AYi@AYi_AInotes
55AI 编辑部评分,满分 100

月之暗面300人做出全球最大开源模型K3

2026-07-24 02:10· 34天前
AI 导读

月之暗面(Kimi母公司)仅300人,无传统部门层级,做出2.8万亿参数开源模型K3,为目前公开最大开源模型之一。K3采用极端稀疏MoE架构(896专家每次激活16个),结合Delta Attention混合线性注意力加速百万token上下文解码,自研优化器更省算力。对比OpenAI 4500人(年底扩至8000人)的硅谷规模路线,月之暗面以精兵架构创新与极致组织效率追赶前沿。

damn,简直就是AI圈最离谱的对比,OpenAI4500员工,年底冲8000人,月之暗面300人就干出了全球最大开源模型。

这条冷知识不是段子,是两家最头部的 AI 公司正用完全相反的组织哲学在跑同一条赛道。

OpenAI 四千五百人,年底要扩到八千,硅谷标准的大厂配置,研究工程产品安全政策销售全线铺开。

Kimi 母公司月之暗面三百人,没有传统部门,没有总监 VP 层级,几乎没有 KPI 和 OKR,联合创始人可以直接跟任何人沟通,平均年龄不到三十岁,刻意控制规模,认为盲目扩人对创新是致命的。

三百人做出了两万八千亿参数的 K3,目前公开最大的开源模型之一,架构是极端稀疏的 MoE,八百九十六个专家每次只激活十六个,用 Delta Attention 混合线性注意力把百万 token 上下文解码速度拉起来,自研优化器比业界标准更省算力,原生多模态加强 agent 能力,用更少的人和更聪明的架构去追前沿。

而 OpenAI 的模型架构基本不公开,研发体系靠的是全球顶尖人才的密度和规模。

这两种路线同时存在于同一个赛道,一个是硅谷式的相信规模堆人堆算力,一个是中国式的精兵路线相信架构创新比堆人更有效。

规模可以复制,架构很难复制,但反过来说,架构的天花板可能来得更早,规模的耐力可能跑得更远。

AI 竞争的本质不是谁的人更多,也不是谁的参数更大,甚至也不是谁暂时的排名更高,本质上是谁能用自己的方式活到终局,而这两种方式正被推到同一个竞技场上接受检验。

AYiKimi要去香港上市了,一次发布同时完成了三件事:产品更新、市场重定价、IPO 预路演,喵的真是一场伟大的操盘!!! K3发布前脚刚砸跌纳斯达克1%,然后转头Kimi就启动港股IPO筹备,一场发布干了几个亿路演的活,真特么牛逼,背后有高人哈哈,来一起回顾这场牛逼的操盘吧: 7 月 17 日凌晨,月之暗面发了 Kimi ...