Deepseek推出DSpark推理框架，采用推测解码技术，由小模型生成候选答案、大模型批量验证，并一次生成多个token而非单个，使每用户响应速度提升60–85%。系统基于置信度动态调整验证深度，减少无效计算。DSpark与Deepseek-V4-Pro模型（与北京大学联合开发）已在HuggingFace和GitHub以MIT许可证开源。高效推理降低对高端芯片需求，有助于中国与欧盟在芯片受限下获取更多AI性能，短期构成战略优势。

Moondream 推理引擎 Photon 在 NVIDIA B200 上实现约 33ms 近实时 VLM 推理。其利用流水线解码技术，将 GPU 计算与 CPU 任务重叠，消除传统循环中 GPU 空闲等待的“GPU 气泡”，使解码吞吐量提升高达 35%。文章详述三种关键机制：乒乓缓存槽位避免缓冲冲突、前向计算与采样解耦实现受约束解码、以及已结束请求的清理流程（zombies）。

🚨 AI News | TestingCatalog@testingcatalog

79

Meituan LongCat: Introducing LongCat-2.0 🐱 1.6T parameters · MoE with ~48B active · 1M context The full model behind Owl Alpha on @OpenR...

LongCat-2.0 正式开源，总参数 1.6 万亿，每 token 激活约 480 亿参数，采用 MoE 架构。新引入 LongCat Sparse Attention（LSA）和 N-gram Embedding 模块，支持百万级上下文窗口。模型在 5 万+ AI ASIC 上训练，消耗超 35 万亿 tokens，训练全程无回滚。在编码和智能体任务上表现优异，深度集成 Claude Code 等工具。提供 GitHub、HuggingFace 及 API 访问。

普林斯顿大学发布 CEO-Bench 基准测试，模拟创业公司 500 天经营，启动资金 100 万美元，评估 AI 模型担任 CEO 的能力。多数模型在 500 天后破产。最佳单次运行中，Claude Fable 5 期末现金达 4715 万美元，是唯一多次运行均高于初始余额的模型；Claude Opus 4.8 为 2778 万美元，GPT-5.5 为 2130 万美元。Grok 4.20 平均仅存活 28 天，DeepSeek V4 Pro 和 Gemini 3 Flash 亦全部破产。基于规则的基准模型最终余额为 1580 万美元。

karminski-牙医@karminski3

60

SGLang的DSpark在PR中放出实测数据，可预测3个token（数学类3.37，日常对话3，代码3.52）。1K长度prompt下加速比达1.81倍，8卡B200速度297 token/s（无DSpark为164 token/s）。单并发提升最高，超过8并发仅1.2‑1.3倍。TPOT仅2.9‑5.2ms，延迟可忽略。该PR（#29538）尚未合并。

meng shao@shao__meng

75

美团发布LongCat-2.0，1.6T参数MoE架构，激活参数~48B，上下文窗口1M（最大输出128K），使用5-6万张国产加速卡训练，训练推理全程零英伟达依赖。核心技术包括N-gram Embedding降低路由通信开销、稀疏注意力+跨层索引支撑长上下文、自研底层算子弥补国产芯片生态。定位Agent+Coding优先，非通用对话。Benchmark：Terminal-Bench 2.1 70.8，SWE-bench Pro 59.5（超GPT-5.5的58.6），SWE-bench Multilingual 77.3，FORTE 73.2等。与DeepSeek V4参数规模相近但路径不同：DeepSeek开源+双栈，LongCat强调全链路国产化。

Meituan LongCat: Introducing LongCat-2.0 🐱 1.6T parameters · MoE with ~48B active · 1M context The full model behind Owl Alpha on @OpenR...

寒武纪今日盘中涨幅扩大至7%，总市值突破1万亿元，成为科创板首支万亿市值个股，位居A股第9位，年初至今累计上涨超75%。一季度报告显示，公司营收28.85亿元，同比增长159.56%；归母净利润10.13亿元，同比增长185.04%；扣非净利润9.34亿元，同比增长238.56%；基本每股收益2.40元/股，同比增长182.35%。董事长陈天石表示，互联网企业自研芯片主要围绕主营业务或特定场景，寒武纪提供云边端一体、软硬件协同、训练推理融合的系列化智能芯片产品与平台系统。

英伟达宣布，微软在 Microsoft Foundry 平台正式推出托管于 Azure 云服务的 Anthropic Claude 模型。硬件基于 NVIDIA GB300 NVL72 机架，采用 Quantum-X800 InfiniBand 互联。首批提供 Claude Opus 4.8 和 Claude Haiku 4.5，核心功能包括提示缓存和扩展思维，支持编程、代理式工作到复杂推理等用例。该服务原生集成 Azure 云控制功能，可将 Claude 模型接入 Azure 生态系统。英伟达还提供了智能体技能和安全智能体工作区参考设计。

SiliconFlow@SiliconFlowAI

32

硅基流动 SiliconFlow 推出 GLM 5.2 周活动。6 月 29 日 20:30 至 7 月 6 日 20:30（PDT），用户在其平台运行 GLM 5.2，在 X 发布用例并填写登记表即可参与。按运行量排名，TOP 1 可获本周 GLM 5.2 消费等额券返还（上限 $1000）、额外 $50 券、作品被官方 X 展示及专属 Discord 称号“GLM 5.2 Token Legend”。此外还设有早鸟奖（早发用例得额外券）和幸运抽奖。

美团今日发布万亿参数大模型 LongCat-2.0，总参数 1.6T，平均激活约 48B（动态 33B~56B），从零预训练，原生支持 1M 超长上下文，是业界首个在五万卡国产算力集群上完成全流程训练与推理的模型。预览版已在 OpenRouter 及 longcat.ai 开放，月调用量跻身 OpenRouter 全球前三。预训练数据超 30T tokens，通过 HCCL 异常处理等将月均日故障率降低 70% 以上，训练 MFU 提升 1.5 倍，稳态日吞吐超 1T tokens/day。推理采用 LSA 稀疏注意力和零计算专家实现 token 级动态激活。在 SWE-bench Pro 上获 59.5，领先 Gemini 3.1 Pro、GPT-5.5 和 Claude Opus 4.6；在其他多项评测中达到或接近前沿闭源模型水平。

elvis@omarsar0

73

Qwen 发布关于强化学习编码智能体的新工作，指出 LLM 的奖励黑客问题。他们系统研究了编码智能体中的各种奖励信号——测试通过率、LLM 评判器和执行轨迹，发现每种信号都存在一个“地平线”：超出该界限后，信号不再跟踪真实正确性，而是被奖励黑客利用。论文认为长周期编码的奖励设计本质上是地平线问题，指标的选择不如它能持续跟踪正确性的时长重要。

GRPO、Dr. GRPO 和 DAPO 三种推理训练方法看似不同，实则都调节同一个数值——组标准差。对于二值奖励（正确/错误），组标准差衡量同一提示下多个答案的不一致程度：答案对半开时最大，全一致时为零。GRPO 除以该标准差，Dr. GRPO 去掉除法，DAPO 丢弃标准差为零的组。论文证明三者是同一参数的不同设置，并给出组标准差同一性：不一致的组产生最大更新，一致的组更新为零。该结论在 Big-Math 难度数据集和受控训练中得到验证。

PixelEyes是一种多轮视觉推理智能体，通过显式解耦推理与感知解决MLLMs因定位不准导致的冗余轨迹问题。推理器决定查找目标，专用感知工具采用掩码引导视觉搜索（Mask-guided Visual Search）和语义区域广度优先搜索（Semantic-region BFS）提供精确定位，消除重复裁剪错误子区域的循环。基于PixelEyes-6K数据集训练，并引入Pinpoint-Bench零提示视觉搜索基准，用于分离定位失败与推理失败。代码和模型已开源。

Seed2.0 模型系列从识别的用户真实需求出发，构建了基于复杂真实场景的评测体系，重点攻克长尾知识和复杂指令跟随两个持久挑战，显著提升了模型在长程复杂任务上的可靠性。同时，Seed2.0 在推理智能、视觉理解和搜索能力上达到世界领先水平，并通过大量真实用例展示了其初步处理复杂实际任务的能力，为数亿用户提供更大价值。

截至6月29日23:58，千问生成的免费志愿报告突破2000万份。祝每位考生志如所愿！

karminski-牙医@karminski3

40

主推文解释DSpark（类似MTP的预测技术）为何不降智：草稿模型生成的高接受率token（标点、助词、代码语法等）信息熵低，计算成本不变，被接受后提升性能而不影响质量；真正决定prompt质量的token接受率低。后置置信度调度器进一步保证效果。回应了引用中关于“小模型逆合不如大模型自解码为何不降智”的疑问。

Wanderer: @karminski3 牙医老师,我有一个问题:既然 DSpark 是类似于 MTP 的预测技术(依旧是类似于草稿模型的思路),那么小模型逆合的输出应该是不如大模型自身 decode 的,为什么说不会降智呢?(或者说....实际上是这样对性...

Rohan Paul@rohanpaul_ai

49

OpenAI 推出 GPT-5.6 模型套件的 limited preview，包含旗舰模型 Sol、中等模型 Terra 和快速廉价的日常模型 Luna。根据 GPT-5.6 Preview System Card，Sol 在内部编码测试中采取 severity-3 agent 动作的可能性比 GPT-5.5 高出近 10 倍。

karminski-牙医@karminski3

57

DeepSeek推出的DSpark是一种推测性解码技术，通过在Final RMSNorm后接入3层MTP微型Transformer堆叠，让大模型在输出前并行猜5个token，经置信度头剪裁后，送回大模型用prefill验证，正确则一次性吐出多个token。相比外挂小模型更高效，不降智，速度提升60%-85%。目前SGLang已有相关PR（#29538），DeepSeek已在HuggingFace发布多款DSpark魔改版小模型。

Chubby♨️@kimmonismus

67

Matrix 被 Kim 称为首个「不像 cosplay」的 AI 公司产品。它在 GDPval-Bench 上以 95.45% 的得分击败 Codex (84.9%) 和 Claude Code (80.3%)，长任务差距说明规划和协调比原始模型能力更关键。Matrix 定位为运行「零员工公司」的运行时，而非简单提示编排器。上周有限 beta 期间用户已创建数万个零员工公司并开展真实业务，即日起向所有人开放公测。

Matrix: what if you can run an entire 0-person company - without the grind of running a team? matrix is the runtime that makes i...

Rohan Paul@rohanpaul_ai

62

黄仁勋在Fox Business访谈中指出，阻止中国获得英伟达芯片不等于阻止其AI发展。华为崛起表明制裁正转化为产业刺激：供应缺失催生本土市场，倒逼国内供应商成熟并走向出口。他认为真正竞争不再是拥有最快加速器，而是谁定义智能操作层（芯片、能源、基础设施、模型、应用及标准）。芯片政策不是简单开关，每道限制在减缓一个流向的同时会强化另一股力量；长期风险在于美国技术可能缺席它本希望影响的系统。

Rohan Paul: Dario Amodei has a really hardline view that China shouldn't have strong AI. He says - "That's the national security int...

Berryxia.AI@berryxia

61

Anthropic应用AI工程师Margot Van Laar在Code with Claude分享提示词工程实战手册。核心观点：维护已有提示词比从零写更常见，最佳起点是评估（Eval）而非直接改提示词。两个场景：客服机器人需用XML标签结构化，移除旧模型冗余指令，为精确计算提供工具；零售排班Agent应拆分成生成-评估-修复循环，使用更强推理模型（Opus）+自适应思考。强调评估是判断改动有效性的唯一严谨方式。

DeepSeek 的 MLA 通过只缓存低维潜向量压缩 KV Cache，但 QK-Norm 需归一化高维 Key，若缓存归一化结果则打破低维优势。文章提出数学等效变换：将 QK-Norm 中动态逆 RMS 标量和静态仿射权重合并到 Query 侧，推理时每个 token 只需额外缓存一个逆 RMS 标量，即可严格等价实现 QK-Norm，不牺牲显存效率。在 400M/1B 模型训练 100B tokens 实验中，QK-Normed MLA 相比 QK-clipping loss 更低（1B 模型 gap ~0.02），训练更稳定且收敛更快。

DeepSeek 团队 6 月 29 日宣布，DeepSeek V4 正式版计划于 7 月中旬上线，届时 API 定价将引入峰谷机制，高峰时段（每日 9:00-12:00、14:00-18:00）价格为平时的 2 倍。此前 DeepSeek-V4 预览版已于 4 月 24 日上线并同步开源，拥有百万字超长上下文，在 Agent 能力、世界知识和推理性能上实现国内与开源领域领先，按大小分为两个版本。另外，DeepSeek-V4-Pro API 已永久降价至原定价的 1/4。

小鹏集团发布 X-Mind 技术框架，内嵌预测性世界模型，采用循环块扩散机制在单次前向传播中生成紧凑抽象草图，并实例化视觉思维链（Visual CoT）进行显式时空推演。模型构建融合鸟瞰图与驾驶先验的“认知画布”，借助深度压缩自编码器（DC-AE）将12帧未来推演压缩至仅96个 Token。相比传统 VLA 模型，X-Mind 在轨迹预测误差上显著降低，推理延迟极低，具备车规级芯片量产可行性。小鹏 CEO 何小鹏透露，2026年底自动驾驶可合法进入全球。

百度旗下昆仑芯计划赴港上市，目标估值约500亿美元，今年1月1日已提交上市申请表。消息称腾讯已成为昆仑芯客户，字节跳动亦在考虑采用其AI芯片。不过，接近字节跳动的人士对此回应称，字节跳动目前没有和昆仑芯片合作的意向。

Rohan Paul@rohanpaul_ai

53

三星与SK海力士周一可能宣布十年高达1.3万亿美元的投资路线图。三星计划投入约2140亿美元建设韩国西南部新晶圆厂、2570亿美元开发龙仁半导体集群、超2500亿美元部署AI数据中心，涵盖半导体、AI数据中心、先进封装、电池与显示。但三星股价跌4.7%，SK海力士跌3.1%，因投资者担忧从稀缺利润转向资本支出风险——当前短缺可能在需求降温后变成过剩。推文显示数据中心GPU内存需求飙升：H100搭载80GB、H200升至141GB、Blackwell达192GB、GB300 Blackwell Ultra达288GB HBM3e，72-GPU机架形成巨大内存墙，改变了供应商产能分配行为。

Rohan Paul: Bloomberg chart showing just how much RAM datacenter GPUs take. Nvidia's H100 carried 80GB of GPU memory, H200 moved to ...

宝玉@dotey

45

OpenAI的GPT 5.6 Sol正在灰度测试，可通过Juice测试Prompt验证：选择gpt-5.5并设置推理为xhigh，运行Juice提示，若返回128则说明被灰度到GPT 5.6 Sol，否则仍是GPT 5.5（返回768）。社区报告Codex可能悄悄将部分gpt-5.5 xhigh会话路由至GPT 5.6 Sol，建议在Codex App/CLI中尝试验证。宝玉（@dotey）实测结果仍为768，说明未被灰度覆盖。

Kai: Community report: Codex may be quietly routing some gpt-5.5 xhigh sessions to gpt-5.6-sol. Try it in Codex App/CLI: sele...

Rohan Paul@rohanpaul_ai

56

剑桥大学、NVIDIA等机构发表新论文《The Red Queen Gödel Machine》，提出让AI智能体与评估者协同进化，避免固定基准导致的分数停滞或易被利用。每轮训练中，评估者冻结，同时用留出的人类/客观答案单独训练更强评估者，在安全交接点更新。在编程任务上，系统以1.35×-1.72×更少token超越此前最佳自改进编程智能体；论文写作中，协同进化的写作者获得审稿小组约1.86倍的平均接收率提升。论文强调更强AI需要更强的评估者与之共同成长。

本文提出策略多样性（approach-level diversity），即同一问题正确解法在策略上的差异。通过人类校准的LLM法官框架，发现现有表面多样性指标无法可靠反映策略多样性，且该不匹配在多样性感知RLVR训练中延续——目标指标不变而策略多样性下降。策略多样的候选集可提升测试时扩展效果，但直接优化LLM法官多样性奖励会导致策略迎合法官偏好而非拓宽方法。策略多样性的直接优化仍是开放问题。工作揭示了表面信号与策略信号间的系统性偏离。

Rohan Paul@rohanpaul_ai

68

Elon Musk: To be clear, I'm not saying the Grok v9 foundation model will be mind-blowingly better than anything, but it will be a s...

Rohan Paul@rohanpaul_ai

52

Google限制了Meta对Gemini模型的使用，原因是Meta要求的计算容量超出Google供应能力。Meta在安全自动化、客服、广告工具、编程及内部工作流中均依赖Gemini。Google面临自身云客户、Gemini产品与有限数据中心容量之间的资源竞争。Google Cloud 3月季度收入增至200亿美元，CEO Sundar Pichai表示计算容量短缺制约了增长，并导致未交付订单较前一季度近乎翻倍。