Saining Xie@sainingxie · 12月23日

not getting into a philosophical debate, but this book really changed how I see the topic and made me feel more humble. human intelligence is impressive, but calling it ‘general’ isn’t very objective. my cat would disagree. to me human intelligence is better seen as socially driven cognitive adaptations, and there’s a huge WORLD of intelligence we still don’t understand, and are nowhere near recreating with current AI

译不想陷入哲学辩论，但这本书确实改变了我对这个话题的看法，让我更加谦逊。人类智能令人印象深刻，但称其为"通用"并不太客观。我的猫会不同意。 在我看来，人类智能更应被视为社会驱动的认知适应，而且我们仍不理解、也远未用当前 AI 复现的智能领域还有巨大 WORLD。 [引用 @demishassabis]：Yann 在这里完全错了，他把通用智能和 universal intelligence 混淆了。 大脑是我们在宇宙中所知最精致、最复杂的现象（迄今为止），而且它们实际上极其通用。 显然，没有人能规避 no free lunch theorem，因此在实际且有限的系统中，总是必须围绕正在学习的目标分布有一定程度的专门化。 但关于通用性的要点在于，理论上，在 Turing Machine 的意义上，这种通用系统的架构能够在给定足够时间和内存（以及数据）的情况下学习任何可计算的东西，而人脑（和 AI foundation models）是近似 Turing Machines。 最后，关于 Yann 对国际象棋棋手的评论，人类竟然能发明国际象棋（以及现代文明的所有其他方面，从科学到 747s！），更不用说像 Magnus 这样的人能下得如此出色，这本身就令人惊叹。他可能不是严格最优的（毕竟他有有限的记忆和有限的决策时间），但考虑到我们的大脑是为狩猎采集而进化的，他以及我们能用大脑做到这些，实在令人难以置信。

Saining Xie@sainingxie · 11月27日

most of people didn’t know this we had been using TPUs at *Facebook* as far back as 2020. Kaiming led the initial development of the TF and JAX codebase, and research projects like MAE, MoCo v3, ConvNeXt v2 and DiT were developed *entirely* on TPUs. because we were the only team at FAIR using them, Meta cancelled the GCP deal in early 2023. TPUs also powered much of our large-scale work at NYU, including SiT, Cambrian1/S, and the recent RAE, FreeFlow. took a lot of suffering to learn the infra (not what they signed up for, but my students are basically TPU/JAX/XLA pros now), but once you get there, the performance/stability is exceptional. very optimistic about Google growing the TPU and JAX ecosystem and pushing it forward commercially

译Meta研究人员透露，Facebook自2020年起使用TPU训练AI，由Kaiming He领导开发TF和JAX代码库，MAE、DiT等模型完全基于TPU构建。因内部采用有限，Meta于2023年取消GCP协议。推文指出，Google、Anthropic等实验室长期使用TPU训练大模型，Nvidia的CUDA护城河并非不可逾越，OpenAI亦投资Triton寻求替代。TPU与GPU的效率差异并非关键，系统工程人才才是决定性因素。

Yann LeCun@ylecun · 9月13日

😂

译宣布成立"AI对齐中心对齐中心"，用递归梗回应"谁来对齐对齐者"的元问题——既然遍地都是AI对齐机构，自然需要一个中心来对齐这些中心，调侃AI安全领域的机构扩张与元监督困境。

Yann LeCun@ylecun · 8月24日

My previous meeting room at Meta was named after the title of this paper.

译Meta 一间会议室以 Yann LeCun 等人 1989 年的经典论文《Optimal Brain Damage》命名。该方法是最早的神经网络剪枝技术之一，通过计算损失函数的二阶导数，剔除对输出影响较小的权重，从而实现网络压缩。

Noam Brown@polynoamial · 8月11日

Really interesting article. Why isn't the impact of AI showing up in GDP? Because most of the benefit accrues to consumers. To measure impact, they investigate how much people would *need to be paid to give up a good*, rather than what they pay for it.

译2024年美国AI创造970亿美元经济效益，却未在GDP数据中显现。原因在于AI价值主要体现为消费者剩余而非企业收入。研究者通过测算「用户放弃使用AI所需补偿金额」来评估真实影响，而非仅看实际支付价格。

Yann LeCun@ylecun · 8月8日

In this piece published in The Hill, fellow Turing laureate David Patterson points out that the return on investment of government-funded research in universities is gigantic. Cutting the budgets of NSF and NIH is economic suicide. https://thehill.com/opinion/technology/5439205-congress-wants-to-cut-the-smartest-investment-taxpayers-ever-made/

译图灵奖得主 David Patterson 在 The Hill 发文指出，政府资助大学研究的回报率极高，削减 NSF 和 NIH 预算无异于经济自杀。

Noam Brown@polynoamial · 8月4日

Considering the technology and the pace of progress, I think this is quite sane.

译针对"AI资本支出占比过高"的质疑，认为考虑到技术特性和进步速度，这种规模其实相当合理。AI开支可能创铁路以来技术投资占比新高，形成"芯片为枪、数据库为坦克"的迷你战时经济。

Yann LeCun@ylecun · 7月31日

False. https://www.linkedin.com/posts/yann-lecun_there-is-a-difference-between-research-and-activity-7356606929554567169-_iT2/

译Elon Musk 宣布 xAI 取消"研究员"与"工程师"的职级区分，称只有工程师、研究员是学术遗留概念。Yann LeCun 直接回复"False"表示反对，暗示研究与工程存在本质差异。

Saining Xie@sainingxie · 7月31日

TheRightWay™ is my favorite brand now.

译TheRightWay™ 现在是我最喜欢的品牌。

Jim Fan@DrJimFan · 7月26日

Shengjia is one of the brightest, humblest, and most passionate scientists I know. We went to PhD together for 5 yrs, sitting across the hall at Stanford Gates building. Good old times. I didn’t expect this, but not at all surprised either. Very bullish on MSL!

译Shengjia Zhao 出任 Meta Superintelligence Labs 首席科学家。其斯坦福同窗发文回忆两人曾在 Gates 大楼同窗5年，称赞其才华与谦逊，并对 MSL 前景表示看好。

Noam Brown@polynoamial · 7月23日

It can be hard to “feel the AGI” until you see an AI master a domain you care deeply about. Everyone will have their Lee Sedol moment at a different time.

译OpenAI 在 IMO 数学竞赛的突破让专业数学家陷入身份危机。作者以"能与狗对话的人发现翻译器在沃尔玛只卖4.99美元"比喻这种独特技能被 AI 商品化的失落感。这种职业终结的悲伤未来数年将蔓延至所有数学家、程序员和知识工作者，甚至让人提前面对生命终结的恐惧。

Noam Brown@polynoamial · 7月22日

Congrats to the GDM team on their IMO result! I think their parallel success highlights how fast AI progress is. Their approach was a bit different than ours, but I think that shows there are many research directions for further progress. Some thoughts on our model and results 🧵

译向 GDM 团队 IMO 成绩表示祝贺，认为这种并行突破印证了 AI 进步之快。GDM 方法与我们的不同，但这恰恰证明存在多种研究方向。后续将分享关于我们模型和结果的想法。

Noam Brown@polynoamial · 7月20日

It’s truly a privilege to be able to wake up every morning, see where the latest intelligence frontier is, and help push it a little further.

译每天醒来关注最新智能前沿并助力推进是一种 privilege。作者以此表达对 AI 工作的热情与参与技术变革的使命感。

Noam Brown@polynoamial · 7月19日

Their bet allowed for formal math AI systems (like AlphaProof). In 2022, almost nobody thought an LLM could be IMO gold level by 2025.

译Paul Christiano 与 Yudkowsky 2022 年赌 LLM 2025 年获 IMO 金牌概率仅 8% 和 16%，当时几乎无人相信可能实现。如今 AlphaProof 等形式化系统让 AI 数学进展远超他们预期。

Noam Brown@polynoamial · 7月19日

It takes us a few months to turn the experimental research frontier into a product. But progress is so fast that a few months can mean a big difference in capabilities.

译实验研究转化为产品需数月，但 AI 能力迭代极快，数月即可产生代差。新 IMO 题目测试中，所有模型表现均不及人类，Grok-4 即使采用 best-of-n 策略也表现糟糕。

Noam Brown@polynoamial · 7月19日

I think it's safe to say this @OpenAI IMO gold result came as a bit of a surprise to folks

译OpenAI 在 IMO 竞赛中斩获金牌，这一结果出乎众人意料。推文以轻松的语气指出，该成绩让许多人感到惊讶。

Yann LeCun@ylecun · 7月12日

The optimal batch size is 1 (For suitable definitions of "optimal")

译Micah Goldblum 指出，batch size 为 1 的无动量 vanilla SGD（入门 ML 的首个优化器）在 LLM 预训练中，per-FLOP 速度几乎与 AdamW 相当。

Yann LeCun@ylecun · 7月2日

Embrace openness.

译DeepSeek 时刻后，AI 人才正从封闭的 OpenAI、Anthropic 流向拥抱开放科学与开源的 META。这种「拥抱开放」的趋势有利于行业透明度、科学进步与安全监管。OpenAI 承诺今夏发布开放权重模型，或将改变这一格局。

Yann LeCun@ylecun · 7月1日

AI on the cover of Newsweek https://www.newsweek.com/2025/07/04/ai-impact-six-lessons-2088669.html

译AI 登上《新闻周刊》封面。该期封面故事梳理 AI 技术带来的六大关键教训，分析人工智能对社会、经济及日常生活的深远影响。

Saining Xie@sainingxie · 6月28日

metaquery is now open-source — with both the data and code available.

译metaquery 现已开源——数据和代码均已开放。

Saining Xie@sainingxie · 5月9日

Congrats @rob_fergus ! Big win for FAIR

译恭喜 @rob_fergus！FAIR 的重大胜利

Saining Xie@sainingxie · 4月24日

Recently open-sourced projects from @TongPetersb, @DavidJFan, and the team at Meta FAIR. MetaMorph (training code and model weights): https://github.com/facebookresearch/metamorph/ Web-SSL (model weights for Web-DINO and Web-MAE) https://github.com/facebookresearch/webssl FAIR's still leading the way in open research.

译最近由 @TongPetersb、@DavidJFan 和 Meta FAIR 团队开源的项目。