我超!K3速度仅有GPT 5.6 token速度的1/12啊! 速度差这么多啊,原来是底子就不同啊!
GPT 5.6 sol的输出速度大约是 Kimi K3 的12倍! 大家体感上K3 比 GPT 5.6 sol慢非常多,我体验下来也确实是这样的,而且慢的不是一点半点。 这是具体的原因: • GPT-5.6 Sol 最高 750 tokens/秒,跑在 Cerebras 晶圆级硬件(WSE-3)上,比常规 GPU 部署...
GPT-5.6 Sol 输出速度最高 750 tokens/秒,是 Kimi K3(约 62 tokens/秒)的约 12 倍。速度差异源于硬件:Sol 跑在 Cerebras 晶圆级硬件上,片上 SRAM 带宽 21 PB/s;K3 是 2.8T 参数 MoE 模型,跑在 GPU 集群上,跨卡通信开销大。
我超!K3速度仅有GPT 5.6 token速度的1/12啊! 速度差这么多啊,原来是底子就不同啊!
GPT-5.6 Sol 输出速度最高 750 tokens/秒,是 Kimi K3(约 62 tokens/秒)的约 12 倍。速度差异源于硬件:Sol 跑在 Cerebras 晶圆级硬件上,片上 SRAM 带宽 21 PB/s;K3 是 2.8T 参数 MoE 模型,跑在 GPU 集群上,跨卡通信开销大。
我超!K3速度仅有GPT 5.6 token速度的1/12啊! 速度差这么多啊,原来是底子就不同啊!