xAI 这个 GPU 最大客户突然甩了 JAX,要自研 C 训练框架,理由是 JAX 利用率太低。如果连万亿参数集群都搞不定,JAX 的底层缺陷可能比想象的大,做大规模训练的团队得认真评估了。
突发新闻:JAX NVIDIA GPU & XLA:GPU最大客户刚刚宣布已放弃JAX GPU,宁愿用Grok Build“氛围编程”一个C训练框架。据报道xAI的JAX堆栈MFU低于10%。NVIDIA JAX团队过去两年全部主力996专注于支持xAI却失败了,我想他们现在可以休息并兑现期权了。
重磅消息:JAX NVIDIA GPU 与 XLA —— GPU 最大的客户刚刚宣布,他们已经放弃 JAX GPU,转而选择用 Grok Build 随性编写一个 C 训练框架。据报道,xAI 的 JAX 技术栈的 MFU 低于 10%。过去两年,NVIDIA JAX 团队整个主力 996 地全力支持 xAI,却以失败告终,我想他们现在可以躺平拿钱了。