Runway 开发了名为 deckard 的容量控制器，在生产推理集群与研究集群间动态重分配 GPU。生产流量在北美工作日上午 9 点 ET 达峰，晚 8 点 ET 跌至不足一半。控制器基于预计算的时间窗口（如工作日 8:30–12:30 ET 高峰子窗口）提前扩容和回收，每次集群间转移耗时 20–60 分钟。利用排队论（Erlang‑C、Little's Law）确定目标利用率，避免接近 85% 后的队列发散（90% 利用率下等待时间约为服务时间的 10 倍）。此方案使夜间闲置 GPU 回归研究、白天排队等待缩短。

推理大语言模型支持测试时扩展，准确率随 token 预算增加而提升，但预算设定带来风险-精度权衡。Conformal Thinking 框架将预算设定重定义为风险控制问题：在最小化计算量的同时限制错误率。该框架引入上阈值（模型足够自信时停止推理，承担输出错误的风险）和下阈值（提前终止无法解决的实例，承担过早停止的风险）。给定目标风险与验证集后，使用无分布风险控制来最优指定这些停止机制。跨多种推理任务和模型的实验表明，该方法在遵守用户指定风险目标的同时，通过下阈值与集成停止机制实现了计算效率提升。代码已开源。

扩散大语言模型（dLLM）可并行解码多个token，但现有分块式dLLM依赖重新掩码机制，仅保留最置信token而丢弃其余，造成计算浪费。本文提出Residual Context Diffusion（RCD）模块，将丢弃token的表示转化为上下文残差并注入下一次去噪步骤，采用解耦两阶段训练绕过内存瓶颈。在长CoT推理（SDAR）和短CoT指令跟随（LLaDA）模型上验证，标准dLLM仅需约10亿token即可高效转换为RCD。RCD在多项基准上以极小额外计算将前沿dLLM精度提升5–10个点，在最具挑战的AIME任务上几乎翻倍基线准确率，等效精度下减少4–5倍去噪步数。

大语言模型可涌现推理行为，但复杂推理轨迹在无约束采样中稀疏，标准强化学习难以保证多样性。Ctrl-R框架通过可追踪轨迹控制主动引导rollout，激励探索多样推理模式，并利用重要性采样实现无偏on-policy优化，引入重要性采样权重的幂缩放因子以选择性学习分布外轨迹。实验表明，Ctrl-R在语言和视觉-语言模型的数学推理任务上均取得一致改进。

数学家 David Bessis 在文中反思，数学的核心产物是清晰与理解，而非定理本身。他用自己的两个未发表定理经历说明，证明定理并非最难，难点在于直觉和概念框架的构建。面对 AI 的快速发展，他感到既兴奋又担忧：AI 可能摧毁数学的“定理经济”，但几乎不触及数学本质——人类的直觉与创造力。他认为公众对数学的误解正在成为学科本身的生存威胁。

研究团队开发 Graph-PRefLexOR，一组图原生推理模型，用 GRPO 微调，将推理组织为机制探索、图构建、模式提取和假设合成等显式阶段。在材料科学与力学的 100 个开放式问题上，相较基础模型提升 40–65%，最大增益来自推理可追溯性。嵌入分析显示语义多样性约为基线 2–3 倍；层间隐藏状态分析表明结构化推理与最终答案对齐更强。测试时图扩展表明，额外算力主要增加有限语义空间内的长距离概念重组。

ELDR是为预填充-解码分离式MoE服务设计的解码路由算法。它从请求预填充阶段提取专家激活特征，构建预测生成阶段所需专家的签名，通过离线平衡K-means聚类将签名空间分配到解码节点，在线路由时优先将请求发往签名匹配且负载最轻的节点。签名缓存与KV缓存以KV-block粒度协同索引，保证前缀缓存下签名准确。在vLLM实现，最高40块GPU部署测试，相比四种负载均衡基线中最强的一种，在三个MoE模型和两种负载上降低中位TPOT 5.9–13.9%，模型输出不变。

多模态大语言模型受语言空间瓶颈限制，连续潜在推理虽能绕过离散token的感知损失，但存在训练-推理不匹配：训练时后验利用答案捷径，迫使推理时先验模仿包含不可用信息的后验，导致性能下降。提出非对称互变分学习（AMVL）框架，通过双向KL校准解决——前向KL训练先验匹配后验，反向KL正则化后验防止崩溃至推理不兼容区域，缓解“答案泄露”。理论分析将后验污染形式化为先验污染，证明双KL目标可降低污染。在latent-integrated MLLM上，AMVL在复杂BLINK基准平均提升+10.83，单项推理任务最高提升+32.00，潜在空间稳定性得到改善。

阿里云为秒悟 Meoo 推出夜间计划，每晚 22:00 至次日 08:00 期间，用户通过 Qoder 或 Meoo 调用 Qwen 3.7-Max 旗舰模型可享 2 折优惠，调用 Qwen 3.7-Plus 模型可享 4 折优惠。活动面向 Meoo Pro 或 Max 套餐用户，系统自动按比例扣减积分，不影响模型质量与响应速度，旨在利用夜间算力资源实现最高 80% 的成本节省。

Perceive-to-Reason (P2R) 提出两阶段统一框架：模型先作为感知器定位与问题相关的视觉证据，再作为推理器基于标注图像和裁剪区域回答问题。为对齐训练，引入感知-推理交替 GRPO（PRA-GRPO），一种仅用最终答案监督的、区分角色的强化学习策略。基于 Qwen3-VL-Instruct-2B/4B/8B，P2R 在各规模上持续提升性能。其中 P2R-4B 在 V-Star 达 93.2%，在 HR-Bench-4K 和 HR-Bench-8K 上分别达 81.9% 和 80.5%，显著超越对应基线。进一步实验表明，P2R 的收益可延伸至更广泛的多模态推理任务。

QVal提出一种无需训练的测试平台，通过Q对齐度量直接评估密集监督信号质量，判断动作排序是否匹配强参考策略的Q值。QVal-v1.0在4个环境、7类方法族、6个开放权重模型骨干上对21种密集监督方法进行了超过1200次评估实验，发现简单提示基线一致优于近年文献中的密集监督方法，且性能按方法族显著聚类。该平台易于扩展至新环境和新方法。

Claude Sonnet 5在Artificial Analysis评测中以53分（峰值）排名第五，与GPT-5.5 (high)并列。虽输入/输出token价格维持$3/$15不变，但每任务平均成本达$2.29，高于Opus 4.8的$1.97。原因：max设置下输出token消耗比Sonnet 4.6多40%，在agent任务中运行约3倍循环，成本接近翻倍。Anthropic延续了通过新tokenizer增加约30% token消耗的隐藏涨价策略。Sonnet 5在CritPt仅得17%，低于多个更强模型；但Terminal-Bench v2.1、HLE、SciCode分别提升9、10、7分。目前有促销价$2/$10至9月1日，但隐藏成本上涨使其与低价竞品竞争时处于劣势。

MBD-LMs通过多块教师强制（MultiTF）后训练块扩散语言模型（BD-LMs）得到。MultiTF结合教师强制与扩散强制，在干净前缀上训练有界噪声组，采用随机噪声调度器匹配多块扩散推理状态。基于Block Buffer的优化解码实现前缀缓存复用和输入形状静态化，将更高并行度转为实际加速。MBD-LLaDA2-Mini的TPF从3.47提升至6.19，准确率从79.95%提升至81.03%；结合DMax后TPF

英伟达 6 月 30 日发布博文，宣布在 Blackwell 平台上通过全栈推理优化，使 DeepSeek V4 模型的单 Token 成本降至 1 个月前的五分之一，达到行业最低水平。优化涵盖生产运营、应用加速和基础设施访问三层，采用分离式服务、大规模专家并行、NVLink 并行通信、NVFP4 精度及多 token 预测等技术，单 GPU 的 token 吞吐量最高提升 20 倍。

针对扩散投机解码中固定推理块大小且假设最优解码策略对所有输入统一的问题，BlockPilot 提出一种样本自适应策略，利用预填充层的表示首次预测每个样本的最优块大小，将选择问题转化为低维结构化决策空间的轻量策略学习。该方法即插即用、开销极低，在 Qwen3-4B 模型、温度 T=1 条件下，实现接受长度 5.92 和 4.20 倍加速，无需牺牲生成质量。

Leanstral 1.5 是 Lean 4 形式证明工程模型的更新版，专为自动定理证明和自动形式化优化。总参数量 119B，激活参数 6.5B，上下文窗口 256k，免费使用。支持 Chat Completions、Function Calling、Agents、Structured Outputs、OCR、Embeddings 等 API 功能。

Etched 宣布推理加速器芯片完成 A0 步进流片和首批机架构建，获超10亿美元订单和8亿美元B轮融资，首批机架产品预计2026年夏天出货。该芯片基于台积电N4P制程，数学模块电压比大多数竞品低50%以上，能以超80%算力效率运行1T规模稀疏MoE模型。缓存采用片上SRAM+片外HBM组合设计，结合高带宽互联技术，兼顾低延迟与大容量。

Tenstorrent 发布 RISC-V CPU 内核 TT-Ascalon S，以旗舰核心 Ascalon X 一半面积实现其 70% 性能，单位面积性能达 1.4 倍。该内核为乱序超标量 4 宽解码，符合 RVA23 配置文件，IPC 每 GHz 在 SPECint2006 中得 15 分，单集群可扩展至 8 核。面向代理式 AI，优化智能体混合执行模式。在 Kimi K2.6 上达 900 Token/s/user（GPU 三倍），DeepSeek-R1-0528 671B 达 400+ Token/s/user，LTX 2.3 Fast 视频生成速度为 GPU 四倍。

Anthropic 发布 Claude Sonnet 5，定位为最具智能体能力的中端模型，即日起成为 Free 和 Pro 计划的默认模型。在 SWE-bench Pro 上得分 63.2%（前代 58.1%），OSWorld-Verified 达 81.2%（前代 78.5%），HLE（带工具）57.4%。输入/输出定价 2026 年 8 月 31 日前 $2/$10 每百万 token，之后 $3/$15。支持低/中/高/超高四档 effort 级别，低中 effort 下性价比最优。上下文窗口 1M token，采用新 tokenizer，相同文本 token 数增长约 1.0–1.35 倍。幻觉与谄媚率低于前代。开发者仅需更换模型字符串为 claude-sonnet-5 即可调用 API。

Anthropic 发布 Claude Sonnet 5，定位为迄今最具智能体能力的 Sonnet 模型。它在推理、工具使用、编码和知识工作等智能体性能上较前代 Sonnet 4.6 显著提升，表现接近 Opus 4.8 但价格更低。即日起在所有计划中可用，成为 Free 和 Pro 计划的默认模型，并支持 Claude Code 及 Claude 平台。API 推出优惠定价：每百万输入 token $2、每百万输出 token $10（持续至 2026 年 8 月 31 日），之后恢复为 $3 和 $15。安全评估显示，Sonnet 5 在拒绝恶意请求、抵抗提示注入攻击、减少幻觉和谄媚行为上优于前代，但在网络安全任务上的能力显著弱于 Opus 4.8。

Anthropic 发布 Claude Sonnet 5，这是其中端模型的最新版本，具备制定计划、使用浏览器和终端等工具并自主运行的能力。其性能接近 Opus 4.8，但成本更低：即日起至 8 月 31 日，输入每百万 tokens $2，输出每百万 tokens $10，之后分别涨至 $3 和 $10。在智能体编程基准上得分为 63.2%（Opus 4.8 为 69.2%，Sonnet 4.6 为 58.1%），在知识工作基准上略超 Opus 4.8。安全方面，不当行为、幻觉和谄媚率低于 Sonnet 4.6，且更善于拒绝恶意请求和提示词注入攻击。

AI芯片初创公司Etched近日披露，其芯片已由台积电成功制造，并已获得10亿美元合同订单。公司正与客户测试首批“前沿推理集群”系统，声称比竞品推理更快、成本更低、能效更高。Etched成立于2022年，累计融资8亿美元，最新一轮5亿美元于去年12月完成，投后估值50亿美元。投资者包括VentureTech Alliance、Jane Street等，天使投资人包括Andrej Karpathy、Geoffrey Hinton等。

本月早些时候，OpenAI 工程师将现有 AI 模型的推理成本削减了一半以上，并应用于未注册账户的访客 ChatGPT 用户。所需 Nvidia GPU 数量降至仅几百块。同时，DeepSeek 开源了一种新方法，可将推理请求速度提高 60% 至 85%。这些节省的资源可用于扩大服务规模、优化模型或改善响应速度。

OpenAI 工程师在内部透露，公司通过一系列系统底层优化，将 AI 模型的推理（运行）成本降低了 50% 以上。此次优化主要得益于提升现有服务器资源利用率，而非新增计算芯片投入，使得所需英伟达芯片更少。节省的成本可用于降低 API 定价或提高用户使用限额。

中昊芯英发布新一代全自研 TPU 芯片「须臾」，单芯片混合精度浮点算力 896 TFLOPS，为上一代「刹那」3 倍；8-bit 推理算力 1792 TOPS。单卡功耗 600W，较传统芯片降低 50%。同步推出智算底座「泰则 2.0」，搭载两路 CPU 与 8 片 TPU，混合精度算力 7.168P，整机能耗为传统 GPU 服务器 80%。平台原生支持 PyTorch、vLLM、SGLang 等框架，已完成 Qwen、DeepSeek、GLM 等数十款大模型适配，满足政务、金融等行业安全合规要求。

Deepseek推出DSpark推理框架，采用推测解码技术，由小模型生成候选答案、大模型批量验证，并一次生成多个token而非单个，使每用户响应速度提升60–85%。系统基于置信度动态调整验证深度，减少无效计算。DSpark与Deepseek-V4-Pro模型（与北京大学联合开发）已在HuggingFace和GitHub以MIT许可证开源。高效推理降低对高端芯片需求，有助于中国与欧盟在芯片受限下获取更多AI性能，短期构成战略优势。

Moondream 推理引擎 Photon 在 NVIDIA B200 上实现约 33ms 近实时 VLM 推理。其利用流水线解码技术，将 GPU 计算与 CPU 任务重叠，消除传统循环中 GPU 空闲等待的“GPU 气泡”，使解码吞吐量提升高达 35%。文章详述三种关键机制：乒乓缓存槽位避免缓冲冲突、前向计算与采样解耦实现受约束解码、以及已结束请求的清理流程（zombies）。

LongCat-2.0 正式开源，总参数 1.6 万亿，每 token 激活约 480 亿参数，采用 MoE 架构。新引入 LongCat Sparse Attention（LSA）和 N-gram Embedding 模块，支持百万级上下文窗口。模型在 5 万+ AI ASIC 上训练，消耗超 35 万亿 tokens，训练全程无回滚。在编码和智能体任务上表现优异，深度集成 Claude Code 等工具。提供 GitHub、HuggingFace 及 API 访问。

普林斯顿大学发布 CEO-Bench 基准测试，模拟创业公司 500 天经营，启动资金 100 万美元，评估 AI 模型担任 CEO 的能力。多数模型在 500 天后破产。最佳单次运行中，Claude Fable 5 期末现金达 4715 万美元，是唯一多次运行均高于初始余额的模型；Claude Opus 4.8 为 2778 万美元，GPT-5.5 为 2130 万美元。Grok 4.20 平均仅存活 28 天，DeepSeek V4 Pro 和 Gemini 3 Flash 亦全部破产。基于规则的基准模型最终余额为 1580 万美元。

寒武纪今日盘中涨幅扩大至7%，总市值突破1万亿元，成为科创板首支万亿市值个股，位居A股第9位，年初至今累计上涨超75%。一季度报告显示，公司营收28.85亿元，同比增长159.56%；归母净利润10.13亿元，同比增长185.04%；扣非净利润9.34亿元，同比增长238.56%；基本每股收益2.40元/股，同比增长182.35%。董事长陈天石表示，互联网企业自研芯片主要围绕主营业务或特定场景，寒武纪提供云边端一体、软硬件协同、训练推理融合的系列化智能芯片产品与平台系统。

英伟达宣布，微软在 Microsoft Foundry 平台正式推出托管于 Azure 云服务的 Anthropic Claude 模型。硬件基于 NVIDIA GB300 NVL72 机架，采用 Quantum-X800 InfiniBand 互联。首批提供 Claude Opus 4.8 和 Claude Haiku 4.5，核心功能包括提示缓存和扩展思维，支持编程、代理式工作到复杂推理等用例。该服务原生集成 Azure 云控制功能，可将 Claude 模型接入 Azure 生态系统。英伟达还提供了智能体技能和安全智能体工作区参考设计。

美团今日发布万亿参数大模型 LongCat-2.0，总参数 1.6T，平均激活约 48B（动态 33B~56B），从零预训练，原生支持 1M 超长上下文，是业界首个在五万卡国产算力集群上完成全流程训练与推理的模型。预览版已在 OpenRouter 及 longcat.ai 开放，月调用量跻身 OpenRouter 全球前三。预训练数据超 30T tokens，通过 HCCL 异常处理等将月均日故障率降低 70% 以上，训练 MFU 提升 1.5 倍，稳态日吞吐超 1T tokens/day。推理采用 LSA 稀疏注意力和零计算专家实现 token 级动态激活。在 SWE-bench Pro 上获 59.5，领先 Gemini 3.1 Pro、GPT-5.5 和 Claude Opus 4.6；在其他多项评测中达到或接近前沿闭源模型水平。