meng shao@shao__meng · 6月20日47

GLM 5.2 开源发布后这两天 X 上看到很多人的称赞，特别是国外的 AI 博主们，我自己还没体验，不过直观判断上，应该不止是 PR，还是真的能打才行。 想到前段时间听智谱的朋友讲述他们内部的一些问题，包括我自己注册充值 GLM 时遇到的一些草台班子的感受，再反观智谱在港股股价飙升，甩开 MiniMax、追上小米的这种气势。 突然感觉，AI 模型团队，现在还远没到需要精细化运营的阶段，只要模型足够强，用户想尽办法都能把钱塞到你口袋里。更重要的还不是用户，是资方和股民们。。

译GLM 5.2 开源发布后，国外 AI 博主纷纷称赞。作者认为模型够强是关键，用户会主动付费。同时智谱港股股价飙升，已甩开 MiniMax、追上小米。在作者看来，现阶段模型团队远未到精细化运营阶段，更重要的是资方和股民。

Orange AI@oran_ge · 6月20日47

我发现我的 cola 跟我说话的时候，很有人味儿 可一旦让它把刚刚说的话“写成推文”，它就立刻开始飘 AI 味儿了，不管改多少次都不如“说”的自然 经常是我把最初说的那段直接用了 难道是“写”这个 prompt 本身激活了八股的神经网络？

译用户发现其使用的AI助手Cola在口头对话时“很有人味儿”，但一旦要求将刚刚说的话“写成推文”，输出立刻变得充满AI腔调，多次修改也难以恢复最初口语的自然感。用户推测，“写”这个提示词本身可能激活了模型偏向套话八股的神经网络。该现象反映了AI在口语自由对话与书面格式化输出之间的风格差异。

Berryxia.AI@berryxia · 6月20日51

亚马逊的骚操作简直了！ 自己是A社的竞争对手也是股东… Trump前几天还把Anthropic当成国家安全威胁，这两天刚跟Dario见完面就改口说“是个好人、聪明人，反应很负责任”。 记者问他是否认为Anthropic和Dario是国家安全威胁，Trump说：“现在不觉得了，但一周前可能觉得。” 他昨天跟Dario见了面，觉得对方反应很快、很负责任。谈到是否用国防生产法管制AI时，他说“可能会，但目前看来大家都很负责任”。 最后还补了一句：“其实是竞争对手兼部分股东把Anthropic举报的……” 这波操作把AI监管的真实逻辑给暴露得挺清楚的：出口管制这种级别的决定，一周前可能是威胁，一次见面后就变成了“聪明好人”。 而举报方据说是Amazon（既是竞争对手又是Anthropic的股东）。 以前大家觉得AI政策会越来越制度化、越来越基于技术评估，现在看起来至少在美国，还挺依赖“谁跟总统聊了、聊得怎么样”。

译特朗普对Anthropic的态度在一天内反转：此前将其视为国家安全威胁，但会见CEO Dario Amodei后改口称其“聪明、好人、反应很负责任”。被问是否用国防生产法管制AI时，他表示“可能但似乎大家都很负责任”。特朗普还透露，举报Anthropic的是其竞争对手兼部分股东——Amazon。这一事件暴露了AI监管的真实逻辑：出口管制等重大决策可能取决于与总统的面谈效果。

Rohan Paul@rohanpaul_ai · 6月20日66

Morgan Stanley estimates about $2.9 trillion capital expenditure of global data-center construction through 2028. With funding sources including $1.4T from hyperscaler cash flows, $200B corporate debt, $150B securitized credit, $800B private credit / asset-based finance / JV debt, and $350B other capital. i.e. AI capex is increasingly credit-funded, so losses could spill beyond shareholders.

译摩根士丹利估计，到2028年全球数据中心建设资本支出约2.9万亿美元，资金来源包括超大规模企业现金流1.4万亿美元、公司债2000亿、证券化信贷1500亿、私人信贷/资产融资/合资债务8000亿等。AI资本支出愈发依赖信贷，损失可能超出股东范围。NYU教授Damodaran指出，与互联网泡沫不同，AI资本支出规模史无前例且大部分由债务融资（尤其是私人资本），一旦调整，违约和困境将蔓延至整个社会，而非仅股东受损。

swyx@swyx · 6月20日28

Anthropic is going to IPO at $2T

译swyx 称 Anthropic 将以 2 万亿美元估值 IPO。与此同时，AlphaFold 团队负责人 John Jumper 在任职近 9 年后宣布离开 Google DeepMind 加入 Anthropic。

Ethan Mollick@emollick · 6月20日51

I suspect that companies underestimate the value of using higher intelligence for tasks where weaker AIs seem to be good enough to hit KPIs at a lower price. At least build architectures where you can flexibly experiment with smarter models to see whether it makes a difference.

译我怀疑企业低估了使用更高智能的价值，即便在较弱AI似乎能以更低价格达成KPI的任务中也是如此。 至少应构建能灵活尝试更智能模型的架构，看看是否会带来不同。

jason@jxnlco · 6月20日10

codex, every once in a while, just open up some tabs that you think would be interesting and just leave them in my Chrome browser.

译codex，每隔一段时间，就打开一些你觉得有趣的标签页，然后把它们留在我的Chrome浏览器里。

Rohan Paul@rohanpaul_ai · 6月20日55

dot-com bubble vs. a possible AI bubble. From the famous "Dean of Valuation", Professor Aswath Damodaran, of NYU Stern School of Business, “And that’s the real big difference between the dot-com boom and bust and the AI boom. We don’t know whether there’ll be a bust. History suggests there will be a bust. The dot-com boom and bust had no huge capital expenditure in that cycle. In fact, there was very little traditional CapEx, or even R&D, driving it. People started apps. They basically started going on it. This has been the biggest infrastructure run-up I think I’ve ever seen in business. You can go back and compare it to the automobile business 100 years ago. The amount of money that’s being put into AI CapEx is immense, which means that when the correction comes, the pain will be more intense. And herein lies the second problem. The dot-com boom and bust was almost entirely equity-funded. You think, so what? Well, when the bust came, those shareholders lost 60%, 70%, 80%, or 90% of their money. You felt sorry for them, but the loss was restricted to the shareholders. The problem with the AI CapEx boom is that not only is it immense, but a big chunk of it is funded with debt, and the debt is coming from private capital rather than banks. There’s a very real chance that if there’s a correction and companies start having problems, that problem is going to show up as distress and default, and that really doesn’t stay restricted. It spills over into the rest of society. I’m not saying it’s going to be 2008, but 2008 is an example of what happens when lenders overreach, when they lend money at too low a rate, and the correction comes. The pain spills over. So that is my concern with this big market illusion: the potential societal cost of having to deal with debt coming due that you’re unable to pay. It’s much more painful than your share price dropping 90% and you feeling the pain." ---- From "Excess Returns" YouTube channel, (link in comment)

译NYU Stern商学院教授Aswath Damodaran对比互联网泡沫与AI泡沫：互联网泡沫几乎无大规模资本支出，且主要由股权融资，崩盘时股东损失60%-90%，损失仅限于股东。而AI泡沫的资本支出规模为历史罕见（类比100年前的汽车行业），且大量由私人债务而非银行资金驱动。一旦市场修正，企业违约将蔓延至全社会，比股价暴跌更痛苦。他以2008年危机为例，警告放贷者过度放贷的连锁风险。

Nathan Lambert@natolambert · 6月20日42

Well said.

译Nathan Lambert引用hlntnr的推文，用森林怪物比喻解释Anthropic的AI安全世界观：他们认为存在巨大且危险的怪物（超级智能风险），其他竞争者为了宝藏不顾危险，而Anthropic选择派出自己的先遣队，更快更深入地进入森林，投入大量资源进行怪物控制和驯服，并向外界报告发现。这种策略虽然逻辑自洽，但也让外界质疑其是否疯狂或说谎。

Nathan Lambert@natolambert · 6月20日39

Not enough people studying SFT methods. It’s a foundation of post training with limited literature that seems very serious in an empirical sense.

译主推文指出研究SFT方法的人仍然不足，尽管它是后训练的关键基础且实证文献有限。引用推文介绍了一项系统性研究：团队针对大量客户模型，在dense和MoE两类模型族（参数量达235B）上，每次只变动一个SFT杠杆，使用4个真实客户数据集，每个数据集配有与客户合作数周构建的评估，且训练输出直接为通过该评估生成，从而使监督目标与下游度量标准一致，消除了常见混淆因素。该研究旨在为微调提炼最佳实践。

elvis@omarsar0 · 6月20日22

Had so many thoughts on the "loop engineering" trend. I spent a few minutes with my writer agent to summarize some of my research, notes, and discussions with students, founders, and startups. Very early, but new ways of working with agents will start to emerge with a step-change in capabilities.

译对“循环工程（loop engineering）”趋势有许多想法。 我用我的写作智能体花了几分钟总结了我的一些研究、笔记以及与学生们、创始人们和初创公司的讨论。 还处于非常早期，但智能体的新工作方式即将出现，能力将有阶跃式变化。

Ethan Mollick@emollick · 6月19日59

More evidence, from a large-scale study in China, that using AI hurts learning if it undermines mental effort. When homework time drops due to AI use, so do test scores. Across studies, a theme: AI tutoring in support of classes is good, using AI to "help" with homework is bad.

译更多证据，来自中国一项大规模研究，表明如果使用AI削弱了心理努力，就会损害学习。当使用AI导致做作业时间减少时，考试成绩也会下降。 综合各项研究，一个主题：AI辅导辅助课堂教学是好的，使用AI“帮助”做作业则是有害的。

AYi@AYi_AInotes · 6月19日64

我终于明白现在随处的AI时代对普通人的善意在哪，普通人上班一个月赚的工资，够开一家跑通全商业闭环的互联网公司，而且能连开好几年， 以前创业要凑团队，起码融个几十万，现在你一个人花$20就能先跑起来去做验证。成本几乎可以忽略不计🚀 跟大家分享个我最近悟透的一个扎心真相： 我们上班一个月赚的工资， 够开一家跑通完整商业闭环的互联网公司，连开好几年。 咱们每天挤地铁赶打卡，看老板脸色，应付办公室内耗， 一个月辛辛苦苦赚的钱，扣完房租吃饭和娱乐开销，能存下的也不多， 可能很多人都想不到现在启动一家能赚钱的互联网公司， 每月固定成本其实只需要二十美元左右。 除了Claude Pro 或最近很火的 OpenAI Codex 辅助全栈开发与 agentic coding， 剩下的全链路基建，几乎都能用免费额度起步， 从后端数据库部署上线到用户认证数据分析支付变现的全链路基建， 几乎全有免费起步额度，域名平摊到每月才一美元， 加起来一杯咖啡的钱，就能搭起一整套过去几十人团队才能撑起来的商业底盘：• Supabase 做后端 + 数据库（含 pgvector 向量功能）（免费额度够早期使用，真实规模后 Pro 约 $25/月） • Vercel 做部署上线（Hobby 免费但仅限非商业验证，商业化需升级 Pro $20/月） • GitHub 做版本控制（免费） • Clerk 做用户认证（免费额度高，50k MRU 内免费，早期完全够用） • Cloudflare 做 DNS 解析（免费） • PostHog 做数据分析（免费额度很慷慨，多数项目可长期免费使用） • Sentry 做错误监控（免费额度 5k errors/月，早期够用） • Upstash 做 Redis 缓存（免费额度够原型和早期使用） • Resend 做邮件服务（免费 3000 封/月但每天限 100 封，早期够用，规模后 Pro $20/月） • Stripe 按交易抽成，没有固定成本 域名平摊下来每月只要一美元左右。 以前开公司做产品，得先组团队、融资金、搭基建， 开发、运维、产品、运营、财务，光人力成本一个月就要几十万， 这还还没算服务器和软件的固定开销， 普通人根本连入场的资格都没有， 但现在不一样了， 所有的公司职能，被 AI 和这些托管服务大幅简化， 你一个人，就能当 CEO、产品经理、全栈开发、运营、财务， 不需要融资，不用稀释股权，不用看投资人脸色， 不需要团队，不用搞管理内耗，不用应付办公室政治。 你只需要找到一个能解决用户真实痛点的需求， 用 AI 辅助把产品快速做出来，然后持续迭代和获取用户， 其实一人公司的核心， 从来不是一个人干所有的活，

译推文指出，普通人一个月工资足以启动一家跑通商业闭环的互联网公司，每月固定成本约$20，主要来自Claude Pro或OpenAI Codex辅助开发。其余后端数据库、部署、认证、分析、监控、缓存、邮件、支付等全链路基建均有免费起步额度，域名约$1/月。同时，引用指出当前AI范式（视频生成、VLA）仅学习统计相关性，缺乏因果理解；UCSD黄碧薇教授提出四代AI划分（相关性小模型→因果小模型→相关性大模型/LLM→因果大模型），其团队Aether AI今日完成首轮融资。

Nathan Lambert@natolambert · 6月19日52

It'll come down to, if the U.S. labs don't want distillation they shouldn't have an API. Seems like eventually they'll do this for some models, and that's their choice to make. More onerous regulation wont really work and will hurt startups in the US.

译归根结底，如果美国实验室不想被蒸馏，他们就不该提供API。看起来他们最终会对某些模型这么做，这是他们的选择。 更严格的监管实际上不会奏效，反而会伤害美国的初创公司。

Nathan Lambert@natolambert · 6月19日49

It's obvious that eventually a speedrun for RL will stick. I currently think the biggest bottleneck is price, as a individual entry currently has too much noise from instability of RL, so running multiple seeds makes it cost O($100). Glad to see attempts!

译Nathan Lambert 评论称 RL speedrun 终将成为常态，当前最大瓶颈是价格——单次 RL 实验因不稳定导致噪声大，多次种子运行成本约 100 美元。@jeankaddour 随后推出 Sokoban Speedrun 项目：基于 Karpathy 的 nanochat 流水线修改，用 RL 训练 Qwen3-4B-Instruct 解决 Sokoban 谜题，GRPO 基线在 8×H100 上仅需 87 分钟。该尝试展示低成本快速验证 RL 方法的潜力。

Chubby♨️@kimmonismus · 6月19日36

We still have a lot of work ahead of us. Sentiment is increasingly turning against AI. There are movements opposing data centers, and now AI in general; resentment is growing. While there are undoubtedly legitimate concerns - such as fears of job losses and rising energy prices - much of this is simply resentment that needs to be addressed through education and awareness-raising.

译我们仍有许多工作要做。公众情绪正日益转向反对AI。 现在出现了反对数据中心、乃至整体AI的运动；怨恨情绪正在增长。 虽然其中无疑存在合理的担忧——比如对失业和能源价格上涨的恐惧——但其中很大一部分只是单纯的怨恨，需要通过教育和提高认知来解决。

Nathan Lambert@natolambert · 6月19日32

Banning open-source AI in any form would be a mistake. A general audience PSA with @kevinsxu on why open source upholds American values. Managing frontier risks is hard, but reducing transparency, innovation, and education from kneecapping the open frontier would be worse.

译禁止任何形式的开源AI将是错误。与@kevinsxu共同发布的一则面向公众的公告，阐述为何开源维护美国价值观。 管理前沿风险是困难的，但通过削弱开放前沿来减少透明度、创新和教育将更糟。

Orange AI@oran_ge · 6月19日37

今天挑战了一下，写了第一个安卓的 app 感谢 GLM 5.2 的帮忙，从安装 android studio 开始指导，一直到 apk 写完，大部分问题都能解决 最后 apk 跑起来的时候，还是很欣慰的 但也确实遇到了疑难杂症，也可能就是安卓系统搞不定吧 目前来看 vibe coding 的东西还是电脑和web最方便调试

译开发者使用 GLM 5.2 从零开始完成第一个安卓 App 开发，包括安装 Android Studio、编写代码到最终生成 APK。GLM 5.2 在大部分问题上能提供有效指导，但遇到疑难杂症时安卓系统仍难处理。作者指出当前 vibe coding 模式在电脑和 Web 端调试最为方便。

elvis@omarsar0 · 6月19日52

As I said before, for that cost & performance, I don't think Fable is worth it for a lot of SWE tasks. Tbc, I think Fable is fantastic, and it clearly shines in design & creativity. Will test it with my loops (and measure frontier efficiency) when it goes live again.

译正如我之前所说，考虑到成本和性能，我认为 Fable 对于很多 SWE 任务来说并不值得。 需要说明的是，我认为 Fable 非常出色，它在设计和创意方面明显表现优异。 等它重新上线后，我会用自己的循环测试它（并衡量前沿效率）。

Berryxia.AI@berryxia · 6月19日45

真的，同意刚哥的看法，不吹不黑。 当时很多人问我体感和实际体验吗，真的非常明显。 除了算力限速外，真的能力现在是国产模型中第一档了。 比DS都好使，就是这样。

译用户@justinleei分享从年初至今的智谱GLM使用体验：订阅GLM完成两个项目（1个商用上线），认为其多种文档格式解析综合能力优于竞品，与Claude Code体验无明显差距。期间算力紧缺时出现过降智，响应慢但结果可接受。近期使用的zcode比第三方agent更快。主推文@berryxia赞同此评价，认为智谱能力当前为国产模型第一档，甚至优于DeepSeek。

fofr@fofrAI · 6月19日19

When an agent says it's going to do something manually 👀

译当智能体说它要手动操作时 👀

Emad@EMostaque · 6月19日23

What happens to the law when AI is the judge, jury & executioner

译当AI成为法官、陪审团与行刑者时，法律会怎样？

DogeDesigner@cb_doge · 6月19日34

BREAKING: Jensen Huang says the biggest mistake people make about AI is seeing it as a threat, instead of a tool to amplify human potential. AI won’t destroy human jobs but will rebuild American industry & create a massive new wave of builders, technicians, engineers, & makers.

译突发：黄仁勋表示，人们关于AI犯的最大错误是将其视为威胁，而非放大人类潜力的工具。AI不会摧毁人类的工作，而是将重建美国工业，并创造一波新的建设者、技术人员、工程师和制造者。

歸藏(guizang.ai)@op7418 · 6月19日45

梦珂老师又回推特了

译梦珂老师又回推特了 [引用 @MengkePM]：http://x.com/i/article/2067506549107691520

歸藏(guizang.ai)@op7418 · 6月19日22

唐老师和马斯克关于国内开源版本的 Fable 5 级别模型会在什么时候出现的对话，看起来我们不需要等到 27 年了

译唐老师与马斯克就国内开源版本的Fable 5级别模型何时出现展开对话。马斯克认为需要较长周期，而唐老师回复“won’t take that long”，暗示时间可能早于预期。主推文据此判断，国内开源Fable 5级别模型不必等到2027年。

Greg Brockman@gdb · 6月19日25

Codex app is very good

译用户反馈，OpenAI 的 Codex 桌面应用能同时运行近 300 个子 agent，持续超过一天，且异常流畅，毫无卡顿。Greg Brockman 评价：“Codex app is very good”。

Ethan Mollick@emollick · 6月19日58

Some (early) evidence that managers have the highest success rate in using Claude Code for coding. I have been arguing that management is an AI superpower, as clearly specifying what you want, how to do it & what good looks like is key to using agents. https://www.oneusefulthing.org/p/management-as-ai-superpower

译一些（初步）证据表明，管理者在使用Claude Code进行编码时成功率最高。 我一直认为管理是AI的超级能力，因为明确说明你想要什么、如何做以及什么样子算好，是使用智能体的关键。https://www.oneusefulthing.org/p/management-as-ai-superpower

Peter Steinberger 🦞@steipete · 6月19日25

Everything’s either a fast or slow API now.

译Peter Steinberger 引用 @nickbaumann_ 介绍 Codex Record & Replay™️ 新原语：让 Codex 观看用户电脑操作，通过录制和事件（与 computer use 同框架）理解操作，转化为未来可复用的技能。使用案例：按个人风格格式化日历邀请（GCal 插件）、起草 PR 并分享到指定 Slack 频道、录制入职流程发现摩擦点（不生成技能）。Steinberger 称“所有东西要么是快速 API 要么是慢速 API”。

Berryxia.AI@berryxia · 6月19日33

GLM-5.2 这次真的有Opus 4.6 的水平了，牛逼~~

Rohan Paul@rohanpaul_ai · 6月19日59

US VP JD Vance on AI Company's marketing strategy, some AI CEOs sell fear because fear makes their product look powerful. And his view on AI driven job loss. "I think the AI companies themselves, the CEOs, have a certain incentive to be super dystopian because it is like a form of viral marketing. If people are really scared of your product, that must mean that it really works. And if they are not scared of your product, maybe it actually does not work that well. So, I think there is something weird and synergistic about the most pessimistic predictions about AI and some of the people who are making it. With AI, I do not see mass unemployment as the most likely consequence. Again, some jobs will be different, and there will be some job disruption. When I look at AI, I think people will become more productive. Some people’s jobs will change, and some people will lose their jobs, but I just do not buy this idea. I have not seen any evidence in the data that AI is going to lead to mass unemployment." --- From "The Diary Of A CEO" YouTube channel, (link in comment)

译美国副总统JD Vance在《Diary Of A CEO》访谈中批评部分AI公司CEO刻意渲染反乌托邦前景，将恐惧当作病毒式营销，让消费者因害怕而相信产品强大。他认为最悲观的AI预测与制造者存在利益关联。关于AI失业，Vance表示不认为大规模失业是最可能结果，数据无证据支持；更可能是生产力提升、岗位变化或更替，而非全面失业。

Ethan Mollick@emollick · 6月19日43

One of the key moments of the LLM era, ali g with GPT-3.5 and the decision by Microsoft to not take down Bing/Sydney/GPT-4 after the @kevinroose New York Times article.

译LLM时代的关键时刻之一，与GPT-3.5以及微软在@kevinroose纽约时报文章后没有关闭Bing/Sydney/GPT-4的决定相提并论。

SemiAnalysis@SemiAnalysis_ · 6月19日50

Happy that Jensen reconnected with his roots, his Day 0s, his OGs, by hanging out with League of Legends gamer Faker. The CUDA AI revolution started because of gamers on GeForce, so it is good to see Jensen grounding himself in his roots. Without gamers, there would never have been a CUDA moat. This comes after Jensen’s Computex keynote, which was disappointing for both gamers & AI engineers, and earned a KeynoteMAX F Tier.

译很高兴Jensen重新联系了他的根源，他的Day 0s，他的OGs，通过与《英雄联盟》选手Faker一起玩。CUDA AI革命始于GeForce上的游戏玩家，所以很高兴看到Jensen扎根于他的根源。没有游戏玩家，就不会有CUDA护城河。这是在Jensen的Computex主题演讲之后，该演讲对游戏玩家和AI工程师都令人失望，并获得了KeynoteMAX F等级。

swyx@swyx · 6月19日58

+55% in one day. i should start a fund (dm if you would actually help me run one, i have no idea how to run one)

译swyx在X上称，Midjourney的医疗影像发布使Butterfly Network（$BFLY）股价单日暴涨55%，他考虑开基金。他记录该发布：被@Scobleizer比作初代iPhone和Tesla首发；有Nature论文支持；理念为“更好的数据=更好的成像”，每个维度提升40-100倍而非10%-2x；这只是今年8个副项目首个；每年仅$10M研究预算即实现此创新，引发对大型机构R&D效率的质疑。有人问“何时FDA批准”，swyx认为应先做简单的事再解决困难，好的技术和使命会让监管等障碍自行瓦解。

Orange AI@oran_ge · 6月19日54

OpenAI 发布的新论文太有趣了，有点探索人性底层原理的意味。 业界研究发现在对齐大模型的时候，有个很糟糕的现象叫 emergent misalignment（涌现失调）： 一个模型如果在训练时被教着做一件坏事，比如写不安全的代码，它会自己泛化到其他领域，包括健康、教育、科学、法律等等。也就是说，坏行为会被泛化。 OpenAI 把问题反过来想：那好行为会不会也泛化？ 如果训练模型在一个领域表现得诚实、透明、谦逊、可纠正，它会不会在别的领域也变得更好？ 于是他们造了一批贴近现实的对话数据，专门测这些特质： -诚实 -认知谦逊（epistemic humility，就是"我不确定"的时候能说出来） -元认知透明（能解释自己的思考过程） -可纠正性（corrigibility，被指错能认） -普遍的公平 -对人的关心 数据覆盖健康、教育、科学、法律、工程这些领域。 然后用 RL 训练，只混进去一小部分这种数据，其余还是常规训练数据。 实验结束后，有三个核心发现： 第一，在训练领域内，模型确实变得更诚实、更透明、更容易认错。 第二，在训练领域外，44 个独立的、训练时没见过的评测上，模型都变好了。欺骗、谄媚、reward hacking、有害建议……全都降了。甚至就算只拿健康数据训练，非健康领域也变好了。 第三，这种改变在对抗压力下时也表现得更有韧性。不管是 adversarial prompt 还是恶意微调，都更难把它推向坏行为。而且模型并没有变得"不可塑造"，正常指令它还是听的，只是对坏的方向变固执了。 这篇论文的启示是，RL 不仅可以强化代码，也可以强化道德。 也许对齐超级 AI 没有想象中那么复杂，只对齐底层逻辑就有很好的效果。 这跟人是很像的，人的各种行为在其底层存在一致性，通过一些小事就能看到一个人的底色。 很有意思。 论文地址：https://alignment.openai.com/beneficial-rl/

译OpenAI探索逆向对齐思路：训练模型做好事是否能像坏事一样泛化？研究人员使用涉及诚实、认知谦逊、可纠正性等特质的对话数据，覆盖健康、教育等领域，通过RL训练。实验发现：训练域内模型更诚实；在44个未见测试中，欺骗、谄媚、有害建议等均下降；面对对抗提示或恶意微调，模型更有韧性，且不损失正常指令能力。表明RL可强化道德底层逻辑。

Greg Brockman@gdb · 6月19日28

the reasoning paradigm unlocking medical progress for humanity

译推理范式正在解锁人类医学进步

Yuchen Jin@Yuchenj_UW · 6月19日39

I actually see it differently. More and more companies are moving from renting closed-source LLMs to “owning model weights” with open-source LLMs and post-training. Cursor did it. OSS LLMs’ revenue could surpass Anthropic at some point.

译我其实有不同看法。 越来越多公司正从租用闭源大语言模型转向通过开源大语言模型和后训练“拥有模型权重”。 Cursor 已经做到了。 开源大语言模型的收入某个时候可能超过 Anthropic。

Fei-Fei Li@drfeifei · 6月19日54

Your thoughtful reflection is so inspiring and encouraging @smallfly ! As everyone talks about AI and automation, human creativity, story telling and productivity are even more important and essential to our society. @theworldlabs is founded on the premise of empowering human ingenuity and productivity. We are very grateful to be able to work with people like you! 🙏🌐

译Fei-Fei Li回应@smallfly对World Labs及空间智能的分享，称使命是赋能人类创造力。@smallfly在FastCompany文章中指出空间智能/世界模型是AI下一个重大方向。他从事体积捕获（NeRFs、3D Gaussian Splats），2024年9月注意到World Labs公告，2025年8月试用Marble beta。Marble能生成持久、空间一致的3D世界并实时渲染。他创作实验“Parallel Realities”：先体积捕获真实空间，再用Marble生成替代版本，最后通过World Labs的Spark渲染器让两个现实共存，实现真正空间连贯性。

Rohan Paul@rohanpaul_ai · 6月19日45

Yann LeCun (@ylecun) explains why LLMs are limited in terms of real-world intelligence during a Bloomberg interview. "Language is a very approximate, reduced, quantized, and simplified description of the world, and LLMs can only deal with discrete sequences of symbols. The world is much more complicated than language. The biggest LLMs are pre-trained on the totality of all the publicly available text on the internet. That’s about 20 trillion words, or 30 trillion tokens. A token is about 3 bytes. So total 10¹⁴ bytes of text. This is the amount of data a four-year-old has seen through vision during four years. Now, the text, though, would take 400,000 years to read? So, there is enormously more data from sensory input, like vision, touch, and everything else, than there could ever be through language." A child does not need 400,000 years of reading to understand cups, doors, balance, faces, falls, or heat, because the body is already collecting dense feedback from vision, touch, motion, and consequence. Text strips most of that away. It turns a living scene into symbols, then asks the model to infer the missing world from traces left by people describing it. That is why an LLM can sound fluent about physics and still have no native sense of how fragile glass feels in a hand. Moravec’s paradox names this reversal: the things humans find intellectual can be easier for machines than the things toddlers do without applause. The hard part is not producing an answer, but building a model of the world that survives contact with weight, friction, surprise, and failure. ---- Link to the full video on Bloomberg's site. Link in comment.

译Yann LeCun 在 Bloomberg 采访中指出，LLM 只能处理离散符号序列，而语言是对世界的近似简化描述。互联网公开文本约 20 万亿词（30 万亿 token），而一个 4 岁孩子通过视觉在 4 年内就能看到同等数据量——文本则需要 40 万年阅读。感官输入提供远多于语言的密集反馈，文本剥离了大部分真实世界体验。这解释了 LLM 能流畅谈论物理却缺乏对易碎玻璃的直观感受，也呼应了 Moravec 悖论：机器难以掌握婴儿通过身体习得的常识。

Rohan Paul@rohanpaul_ai · 6月19日23

Anthropic appears to have built some lovely libraries. ---- During Dario and Daniela Amodei's interview on Bloomberg Originals" YouTube channel, (link in comment)

译Anthropic 似乎构建了一些不错的库。 ---- 在 Dario 和 Daniela Amodei 接受 Bloomberg Originals YouTube 频道采访时，（评论区中附有链接）

Emad@EMostaque · 6月19日41

Elon on when Chinese models hit fable level performance. I have always thought Chinese labs have a huge advantage here. The feedback loops for usefulness are tighter & AI adoption higher in China than the USA => utility above all else

译Elon Musk 在回应中表示，中国模型在基准测试上或达前沿水平，但按真正有用性衡量，即使 Q1 表现也会令人印象深刻。他指出 Anthropic 正确聚焦于最大化有用智能，该能力不体现在基准测试但直接反映在收入中。Emad Mostaque 补充认为中国实验室在实用性反馈循环和 AI 采用率上比美国更具优势，中国更强调实用性高于一切。