Gary Marcus：The Road to AI We Can Trust（RSS）
精选60
Uber首席运营官Andrew Macdonald表示，公司并未看到在AI上投入更多成本后，生产力获得了相应的提升。
关联讨论 1 条IT之家（RSS）推荐理由：Gary Marcus借Uber、星巴克等最新案例，对AI的狂热投入发出清晰警告，他认为如果更多企业发现成本飙升却未见实效，那几万亿的估值泡沫可能破裂，这是近期最直白的风险提示。
Uber首席运营官Andrew Macdonald表示，公司并未看到在AI上投入更多成本后，生产力获得了相应的提升。
关联讨论 1 条IT之家（RSS）Google Cloud首席运营官Francis de Souza强调，企业必须从AI战略的初始阶段就将安全性内建，将AI安全议题提升至董事会层面的战略高度，而不仅仅作为技术或机房层面的运维问题。
英伟达创始人兼CEO黄仁勋表示，面对AI发展，家长和孩子不应只寻找不会被AI取代的学科，而应学会利用AI深化学习、提升技能。他指出，新闻学、艺术学、设计等领域仍有价值，人类独有的特质将更珍贵。黄仁勋认为，AI自动化了许多工作，但会推动人类承担更具判断力和创造性的高层次工作。他将AI发展与历次科技浪潮类比，并指出这并未削弱人类，反而让人们变得更忙、野心更大。
Suno 用户社区出现一种现象：部分用户不再使用 Spotify 等传统音乐流媒体，转而几乎只收听自己通过 Suno 生成的 AI 音乐。有用户在 Reddit 帖子中“自豪地宣称”并引发了共鸣，他们将此形容为一种“令人上瘾”的体验，沉迷于收听自己创作的、源源不断的“热门歌曲”。
哥伦比亚大学等机构对250万篇生物医学论文的审计显示，自2023年以来，伪造参考文献的数量增加了超过12倍。研究人员认为，这与大语言模型的广泛使用有关——这些虚假引用匹配论文主题、格式规范且难以识别。98%的受影响论文至今未收到出版商的任何回复。该问题可能影响制定临床指南的学术文献基础。
百度伐谋2.0产业决策智能体落地排产场景，业务人员用自然语言描述优先级和现场变化（如设备故障、工人请假），系统自动将约束转化为优化模型并迭代求解，将顾问数小时的建模压缩到对话内完成。每次纠偏实时调整方案，隐性经验被结构化沉淀为企业可复用模型。在日均数百订单、十几条产线的大型家具制造企业中，产能提升20%。
联合国《特定常规武器公约》论坛每年在日内瓦举办两次，聚焦致命自主系统。2017年11月，Branka Marijan与会时发现，这次会议与往常不同。尽管讨论仍围绕“杀人机器人”展开，且这项技术当时被认为可能永远不会发展或部署，但她意识到，那个遥远、想象中的未来已突然变得近在咫尺。
Y Combinator 创始人、OpenAI 早期投资者保罗·格雷厄姆表示，他会忽略明显由 AI 撰写的邮件，因为这感觉“像被欺骗”。相关研究表明，他的这种反应十分普遍。
自主AI系统正从软件环境转向仓库、配送网络和公共空间等物理领域。这引发了对现有AI规则是否涵盖此类物理环境系统的关注，因为当前多数治理框架主要聚焦于在线伤害和模型输出，例如偏见、虚假信息及有害内容。
微软因此前Copilot植入引发负面舆论，正暂缓激进推广，转而开发一套Copilot设计体系，旨在让AI功能无感化融入日常操作。微软365首席设计官约翰・弗里德曼主导该体系研发，目标是打造统一、智能且人文的交互体验，使Copilot能读懂用户意图，自然融入流程。体系包含“动态操作按钮（DAB）”及“流转交互”等模式，强调功能入口无缝联动、用户主导，让AI仅作为思维的延伸。
OpenAI CEO 萨姆·奥尔特曼表示，AI 快速发展与普及不会引发“就业末日”。他承认自己此前的担忧有误，原以为AI会消灭更多入门白领岗位，但现实并非如此。奥尔特曼指出，人与人的互动仍然非常重要，他无法想象会将其外包给AI。不过，他提到发言全程并未援引任何具体就业数据。
该教程以 TuringEnterprises/Open-MM-RL 数据集为实践基础，构建多模态推理与可验证奖励强化学习（RLVR）流程。内容涵盖数据集加载、结构分析（包括领域、格式、问题长度、答案类型和图像分布），并可视化各领域示例。同时实现了一个轻量级奖励函数，用于检查精确匹配等条件，并演示了如何将流程导出为 GRPO 格式。
“龙虾之父”Peter 开源了 skill-cleaner 工具，用于诊断和优化 AI 智能体的技能提示词。该工具包含5项核心功能，包括技能提示词预算审计、重复技能检测、未使用技能筛查、技能根目录审计和描述精简优化。其脚本采用标准 token 预算核算逻辑，旨在帮助减少冗长描述对 token 预算和上下文窗口的占用。已有用户实践显示，将技能描述从90多词精简至40词以内，能提升智能体选择技能的准确率。
著名黑客乔治·霍茨在经过六个月测试后警告，AI编程智能体可能是软件开发中代价最高的错误之一。他认为这些工具适合快速原型，但无法可靠处理代码细节，生成的代码可能表面完善却隐蔽问题，给组织带来高额维护成本和故障风险。霍茨本人立场已转向怀疑，认为大语言模型是复杂的统计系统而非真正智能。与之相反，安德烈·卡帕西在GPT-5.4和Opus 4.6发布后改口，认为AI智能体已永久改变了编程方式。
Anthropic联合创始人Christopher Olah对教皇通谕《Magnifica Humanitas》产生了影响，被科技评论人Corey Quinn评价为“有史以来最伟大的厂商游说行为”。评论原文认为，让教皇将产品的特定技术限制正式化为精神论述是难以置信的。
华为半导体业务部总裁何庭波提出“韬（τ）定律”，以应对摩尔定律式微后的物理边界挑战。华为基于该定律，已推出涵盖麒麟手机、昇腾、鲲鹏等领域的300余款芯片。预计到2031年，基于该定律的高端芯片晶体管密度将达到1.4纳米制程的同等水平。华为将于今年秋季发布完整采用逻辑折叠技术的新型麒麟手机芯片。
本文讨论了在使用人工智能辅助编程时存在的一种权衡关系。主要观点是，采用人工智能工具来生成或辅助编写代码，其核心目标在于产出质量更高、更可靠的代码。然而，这一过程可能会以牺牲开发速度为代价，使得编码的整体进程相对变慢。这揭示了在追求代码质量与开发效率之间的一种潜在平衡。
教皇良十四世发布通谕《Magnifica Humanitas》，探讨如何在人工智能时代维护人的尊严。通谕指出，AI系统的运作方式更像“培育”而非“建造”，其内部表征和计算过程仍是未知的黑箱。它强调，真正的发展必须以人为本，不应仅为一部分人增加消费却将代价转嫁给他人。通谕警示，AI看似客观的回应实际上反映了设计者的文化偏见，其对人类交流的模仿可能制造虚假关系的幻觉。此外，AI系统（尤其是大语言模型）对能源和水资源的巨大消耗及其环境影响也受到了关注。
英伟达CEO黄仁勋批评部分CEO将裁员归因于AI的做法，认为这种说法过于敷衍且缺乏依据。他指出，生成式AI工具尚未在工作场所广泛应用，AI刚变得高效有用不久，因此不可能早就在导致大规模失业。黄仁勋表示，一些高管这样做只是“为了显得自己很聪明”。
Together AI开源OSCAR，一种用于长上下文大语言模型服务的注意力感知2位KV缓存量化方法。该方法在离线状态下，从注意力感知的协方差结构中为键和值推导出独立的旋转。在2.28 bits per KV element的量化精度下，OSCAR将通义千问（Qwen3-4B-Thinking-2507）和通义千问（Qwen3-8B）的BF16精度差距分别缩小至3.78点和1.42点，同时实现约8倍的KV内存缩减，并在100K上下文长度下带来高达3倍的解码速度提升。
本教程展示如何使用 NVIDIA FLARE 框架构建一个联邦学习实验，以比较 FedAvg 和 FedProx 两种算法。实验在非独立同分布（non-IID）的 CIFAR-10 数据集上进行，通过狄利克雷分布划分客户端数据，以模拟现实联邦场景中的标签不平衡问题。内容涵盖如何利用 NVFlare Job API 来定义和启动联邦学习任务。
Anthropic联合创始人Chris Olah在梵蒂冈出席教皇Leo XIV关于AI的通谕发布会。他指出，所有前沿AI实验室都面临商业、研究及地缘政治等多重压力，这可能与做正确的事相冲突，因此外部监督至关重要。他强调，AI模型并非像飞机那样被工程化构建，而是基于人类语言和思想“生长”出来的，其内在性质可能复杂难解。他提出三个需审慎思考的问题：如何确保AI发展的全球收益公平分享、如何思考AI时代的人类繁荣，以及AI模型内在性质的本质。他呼吁社会各界，尤其是宗教与民间团体，严肃审视AI发展并引导其向善。
关联讨论 3 条X：Anthropic (@AnthropicAI)The Verge：AI（RSS）X：Rohan Paul (@rohanpaul_ai)本文旨在厘清 AI 智能体领域中易混淆的关键术语。文章指出，模型（如 Claude、GPT）本身是无记忆、无循环的大语言模型。其行为由“Scaffolding”（行为定义层，如系统提示、工具描述）塑造，而“Harness”（执行层）负责调用模型、处理工具调用与控制循环，是智能体运行的核心。两者结合，模型才能成为智能体。文章以 Claude Code、Codex 为例，说明同一模型搭配不同 Harness 会产生迥异体验，并提出了 Agent = Model + Harness 的常见理解框架。术语尚未统一，本文旨在提供一个实用的心智模型。
教皇Leo XIV的首道通谕，将AI作为诊断工具，以剖析权力集中、民主侵蚀以及科技精英阶层根据自身利益塑造世界等更深层的问题。
同一事件，精选展示《Anthropic联合创始人Chris Olah在教皇通谕发布会上的讲话》教皇利奥十四世在首份通谕中强调，人工智能的发展和应用必须以服务全人类为目标，而非服务于少数权贵。他呼吁为AI建立一种新的伦理框架，使其基于人类团结的原则，而非仅由利润或权力逻辑驱动。
Anthropic联合创始人Christopher Olah受邀在教皇利奥十四世通谕《Magnifica Humanitas》的发布会上发言，他借此平台宣称，AI模型展现出内省及类似情感状态的迹象。然而，教皇同场发布的文件则持不同观点，认为这些系统“仅模仿了人类智能的某些功能”。
当谷歌搜索引擎功能发生转变后，TechCrunch 文章推荐了可供用户尝试的替代性搜索引擎选项。
Anthropic联合创始人Chris Olah呼吁，人工智能发展需加强外部监督，不能仅由科技公司主导。他指出，前沿AI实验室面临商业与地缘政治压力，其激励机制有时会与社会整体利益冲突。Olah特别关注三大风险：大规模失业、全球普惠AI红利，以及复杂系统的可解释性难题。他认为教会、政府和民间社会应介入制衡，确保AI技术向善发展。
有作者分享了一个技术实践，其核心是利用一台树莓派来构建（或安装、设置）另一个树莓派的操作系统。这本质上是一个计算机领域的“自举”（bootstrapping）过程，即系统用自身来构建或启动自身。该文章（原英文标题为“Building Pi with Pi”）的分享在 Hacker News 社区获得了关注。此摘要严格依据原文信息生成。
随着MCP月SDK下载量超过9700万且AI智能体进入生产工作流，认证已成为团队面临的关键基础设施决策。文章评估了八家领先平台——WorkOS、Stytch、Auth0 by Okta、Composio、Nango、Arcade、TrueFoundry和Cloudflare在规范合规性、企业身份深度、集成广度以及2026年部署的现实适用性方面的表现。
在戛纳电影节期间，导演贾樟柯与火山引擎探讨AI对电影行业的影响。贾樟柯认为，AI降低了电影制作的技术门槛，让普通人也能参与拍摄和创作，电影行业正迎来平民化变革。
英国整形医生发现，越来越多求美者带着AI生成的“完美版自己”自拍咨询，追求零毛孔、极度对称的五官等几乎无法通过现实手术实现的“AI脸”特征。这种高度模板化的图像（如女性V字脸、男性宽下颌）被患者视为整形目标，医生们担忧其强烈的心理影响及手术无法兑现预期的现实局限。此外，社交媒体上部分“整形奇迹”案例的真实性也受到AI生成的质疑。
程序员 George Hotz 在经过六个月测试后警告，AI 编程智能体将成为软件开发领域代价最昂贵的错误之一。他认为 LLM 虽然能快速生成原型，但在细节上会崩溃，产生越来越难以发现的 bug。他的立场体现了 AI 社区对于 LLM 在软件开发中角色的深刻分歧。