SpecBlock是一种新型块迭代推测解码草案器，旨在融合路径依赖性与低成本生成。其核心在于每次前向传播生成一个包含K个连续依赖位置的“块”，通过重复块扩展构建草案树。关键技术包括：块内层间移位传递隐藏状态；跨块机制允许新块从旧块任意位置继承路径状态；协同训练的排序头动态分配分支，取代固定Top-K树；有效前缀掩码优化训练目标。部署时采用成本感知赌博算法，仅当预期吞吐增益超过更新成本时才利用验证器反馈选择性更新草案器。实验表明，在仅消耗EAGLE-3草案成本44-52%的情况下，SpecBlock将平均加速比提升了8-13%，成本感知自适应进一步将优势扩大至11-19%。
研究团队提出环境驱动框架AutoTTS，将测试时扩展策略设计转化为可自动探索的环境构建问题。该框架将宽度-深度扩展形式化为对预收集推理轨迹的控制器合成，通过Beta参数化使搜索可行，并利用细粒度执行轨迹反馈提升效率。在数学推理基准测试中，自动发现的策略在准确率-成本权衡上优于人工基线，并能泛化至未见过的任务和模型规模，整个发现过程仅需39.9美元和160分钟。相关代码与数据已开源。
针对字节级语言模型自回归生成速度慢的问题，Byte Latent Transformer (BLT) 提出了新的训练与生成技术。其核心是最快的变体 BLT Diffusion (BLT-D)，它结合块级扩散目标与下一个字节预测损失，能在每个解码步骤并行生成多个字节，大幅减少前向传播次数。此外，受推测解码启发，研究提出了两种在速度与质量间权衡的扩展：BLT Self-speculation (BLT-S) 让局部解码器起草超出常规边界的字节后进行单次验证；BLT Diffusion+Verification (BLT-DV) 则在扩散生成后增加自回归验证步骤。这些方法在生成任务上的预估内存带宽成本可比原始 BLT 降低超过 50%，共同为字节级模型的实际应用扫清了关键障碍。
MISA是DeepSeek稀疏注意力中索引器模块的即插即用替代方案。它将索引器的多个查询头视为专家混合池，通过一个轻量级路由器，仅根据查询激活少数几个头部进行昂贵的令牌级评分，从而大幅降低计算成本。无需额外训练，仅激活8个头时，MISA在DeepSeek-V3.2和GLM-5上就能达到与原始密集索引器相当的LongBench性能，同时分别减少八分之七和四分之三的头部使用量。该方法在128K上下文内能保持完整的“大海捞针”热力图，每层可恢复超过92%的原始索引器所选令牌，其内核在单H200 GPU上实现了约3.82倍的加速。
OpenAI发布了三款新型语音模型：GPT-Realtime-2、GPT-Realtime-Translate和GPT-Realtime-Whisper。其中，GPT-Realtime-2具备与GPT-5相匹配的实时推理能力，旨在实现更流畅、智能的实时对话交互。GPT-Realtime-Translate支持超过70种语言的实时翻译，而GPT-Realtime-Whisper则专注于实时语音转写功能。这一系列模型标志着OpenAI在实时音频处理和交互领域的重要进展，有望显著提升跨语言沟通和语音应用的体验。
DeepSeek 4 Flash 本地推理引擎正式发布，这是一个专为苹果 Metal 框架优化的开源项目。它允许开发者在配备 Apple Silicon 芯片的 Mac 上高效运行 DeepSeek 4 模型，实现本地离线推理。引擎通过 Metal Performance Shaders 显著提升了计算性能，降低了延迟与内存占用。该项目已在 GitHub 开源，并在 Hacker News 上获得了关注。
研究发现，部分已发布的模型存在有限的意外对思维链（CoT）进行评分的情况。团队已修复受影响的奖励通路，并确认没有明确证据表明模型的可监控性因此下降。这表明当前强化学习训练中对CoT的意外评分影响有限，且修复后未对监控能力产生负面影响。
研究团队推出CreativityBench基准，以评估大语言模型基于物体可供性和属性进行创造性工具重新利用的能力。该基准基于一个包含4000个实体和超15万条标注的大规模知识库，生成了1.4万个需识别非显而易见但物理可行解决方案的落地任务。对10个前沿模型的评估表明，模型虽常能选择合理物体，但在识别正确部件、其可供性及所需物理机制方面存在显著困难，导致性能大幅下降。模型规模扩大带来的改进很快饱和，通用推理能力与思维链等策略均未能有效提升创造性可供性发现，凸显该能力仍是当前模型的主要挑战。
研究发现，仅通过单次贪婪解码中首个内容答案词元的归一化熵计算置信度指标 phi_first，就能有效检测大语言模型在闭卷事实问答中的幻觉。在三个7-8B指令微调模型和两个基准上，phi_first 的平均AUROC达0.820，优于需多次采样的语义一致性方法（0.793）和标准表层自洽性方法（0.791）。该指标与语义一致性呈中到强相关，两者结合提升有限，表明模型在首个词元分布中已包含了多样本一致性所捕获的大部分不确定性信息，可作为低成本基线指标。
针对单流自回归接口中“思考”与“输出”耦合导致的“沉默税”问题，本研究提出了“并排交错推理”方法。它将披露时机转化为可控决策，允许模型在同一上下文中交错进行私有推理和部分内容披露，仅当推理充分支持时才释放内容。通过构建蕴含对齐的交错轨迹进行监督微调，并结合强化学习恢复推理性能。在Qwen3系列模型上的实验表明，该方法在AIME25和GPQA-Diamond基准测试中，有效改善了准确性、内容产出与延迟之间的帕累托权衡。
谷歌为Gemma 4系列开源模型推出多Token预测起草器，采用推测解码技术以提升推理效率。该技术通过轻量级起草器预测多个未来Token，再由重型目标模型并行验证，从而突破内存带宽限制，将计算资源利用率最大化。实测显示，在特定条件下，Gemma 4 26B模型在Apple Silicon芯片上实现了约2.2倍的本地加速。此举有助于在个人电脑、消费级显卡及边缘设备上高效部署低延迟AI应用，如聊天机器人和编程助手。
Opera安卓浏览器对其深度思考功能进行了全面升级，该功能旨在为移动端用户提供AI驱动的智能辅助体验。此次升级的具体技术细节与版本号尚未披露。
中国台湾地区AI IP企业Skymizer近日发布推理解码加速器芯片HTX301，该芯片可与GPU协同工作，加速AI推理结果的输出，提升算力系统利用率和能效。HTX301基于HyperThought软硬件协同平台，采用LISA指令集架构，专注于带宽密集型负载处理。其支持SoC与PCIe AIC两种部署形态，其中单张PCIe加速卡可集成6颗HTX301芯片，提供总计384GB内存，足以满足7000亿参数大模型的本地运行需求，而整卡功耗仅为240瓦。
针对流式视频生成中候选探索成本高、缺乏时序引导的问题，研究团队提出了首个综合性测试时缩放框架Stream-T1。该框架包含三个核心单元：流式缩放噪声传播利用历史高质量块噪声优化当前生成，建立时序依赖；流式缩放奖励剪枝结合短期与基于滑动窗口的长期评估，平衡局部空间美学与全局时间连贯性；流式缩放记忆沉淀根据奖励动态管理KV缓存上下文。在5秒和30秒视频基准测试中，Stream-T1显著提升了时间一致性、运动平滑度与帧级视觉质量，同时大幅降低了计算开销。
谷歌DeepMind宣布收购Fenris Creations少数股权，并将在大型多人在线游戏《星战前夜》中训练AI，以攻克AI长期规划难题。这款运营了23年的游戏拥有复杂的科幻宇宙和高度社会模拟，要求玩家进行长期策略规划与政治博弈，正切中当前AI研究的薄弱环节。为确保不影响玩家体验，DeepMind初期将在隔离服务器上进行研究，游戏方也将利用其成果优化游戏。Fenris Creations近期刚以1.2亿美元现金及加密货币完成自我回购。
研究团队开发了SpecMD，这是一个用于在各种硬件配置上对临时缓存策略进行基准测试的标准化框架。该研究聚焦于混合专家模型，这类模型虽然实现了稀疏专家激活，但需要专家缓存机制才能将稀疏性转化为实际性能提升。此前的研究提出了以硬件为中心的缓存策略，但不同缓存策略之间以及它们与不同硬件规格之间的相互作用尚不明确。SpecMD框架旨在填补这一理解空白，系统性地评估缓存策略的交互影响与硬件适配性。
一篇题为《深度学习理论》的文章在Hacker News上获得103点热度。文章探讨了深度学习的理论基础，旨在为这一复杂领域构建更系统的理解框架。尽管具体理论细节未在摘要中展开，但其核心目标指向解释深度神经网络为何有效以及如何工作，这反映了学术界和工业界对超越经验性实践、寻求坚实理论支撑的持续追求。
一项研究提出评估LLM潜在思想表示的公理化框架，包含四个独立于下游benchmark的功能公理：因果性、最小性、可分离性与稳定性。在23项推理任务（如空间推理、事实问答）上审计多款开源权重LLM后发现：没有模型能同时满足所有公理；表示可区分任务类型，但无法区分同一任务内的不同问题；表示编码的信息几乎不超出输入嵌入本身。该缺陷在密集、推理蒸馏和RL训练的模型家族中一致出现，表明其是结构性而非模型规模或训练方法的属性。
研究揭示了LLM智能体长期记忆中的“隐性冲突”缺陷，即新证据在不明确否定的情况下使旧记忆失效。为此，研究者构建了STALE基准，包含400个冲突场景与1200个查询，从状态解析、前提抵抗和隐性策略适应三个维度进行评估。系统测试表明，前沿模型在根据更新证据行动上存在普遍差距，最佳模型准确率仅55.2%。研究进一步提出了CUPMem原型，通过结构化状态整合加强写入时修订，为构建状态感知的鲁棒记忆提供了初步基线。
针对混合专家模型分布式推理中专家间通信开销巨大的问题，本研究提出“专家联盟”架构。该架构将Transformer层的MoE模块重组为多个MoE集群，每个集群仅负责一个键值头并在内部应用专家并行。集群间通过对注意力后残差求和来同步信息，驱动下一MoE块的路由。在单节点设置中，该方案完全消除了GPU间的全对全通信；在多节点设置中，则将此类通信限制在节点内部，大幅降低开销。在LongBench上的实现表明，该架构显著提升了单节点与多节点环境下的推理吞吐量与延迟，端到端前向传播延迟最高降低5.2倍，同时保持了与同规模MoE模型相当的生成质量。
研究发现，强化学习改进大语言模型推理时，并非教授新策略，而是对基础模型已掌握的解决方案进行概率重分配。其有效影响仅集中在1–3%的高熵决策token上，且所提升的token始终位于基础模型前5个备选之中。基于此，研究者提出无需强化学习的ReasonMaxxer方法，仅在熵选通的决策点施加对比损失，仅需数百次基础模型推演且无需在线生成。在多个模型和数学推理基准测试中，该方法达到或超越了完整强化学习的性能，而训练仅需数十道题目、数分钟的单GPU时间，成本降低约三个数量级。
研究团队提出SPEED方法，一种阶段非对称的KV可见性策略，以降低仅解码器语言模型的长上下文推理成本。该方法在预填充阶段，仅让非锚点的提示词KV状态在模型下层生成和缓存；而在解码生成阶段，则对所有令牌进行完整的深度计算。在Llama-3.1-8B的指令调优实验中，当仅使用75%的层处理提示词时，SPEED在基准测试中取得了与完整深度基线近乎持平的平均得分（51.2 vs. 51.4）。同时，它显著提升了推理效率：首令牌时间减少33%，每个输出令牌时间减少22%，并在128K上下文长度下将活跃KV内存降低25%。分析表明，该方法保留了完整深度模型中关键的提示词选择和表征稳定功能。
4DThinker是首个让视觉语言模型通过动态潜在心理意象进行“4D思考”的框架，使其能在连续隐藏空间内模拟场景演变。该研究提出了一个从原始视频合成4D推理数据的可扩展无标注流程，并设计了动态意象微调方法，通过联合监督文本标记与4D潜在表征来锚定模型的动态视觉语义。在此基础上，4D强化学习利用基于结果的奖励处理复杂推理任务，并将策略梯度限制于文本标记以确保优化稳定。在多个动态空间推理基准测试中，4DThinker均显著优于现有基线模型。
针对长上下文处理效率问题，研究团队提出了通用预填充加速框架UniPrefill。该框架直接在令牌级别加速模型计算，适用于线性/全注意力混合、滑动窗口/全注意力混合等几乎所有架构。UniPrefill被实现为连续批处理算子，并扩展了vLLM的调度策略，原生支持预填充-解码协同处理与张量并行，从而能无缝集成到vLLM等现代推理引擎中。实验表明，该框架可将首令牌生成时间最高加速2.1倍，且加速效果随并发请求数量增加而愈发显著。
本研究提出列表式策略优化（LPO），为大语言模型可验证奖励强化学习提供新方法。现有分组策略梯度方法隐式地在响应单纯形上定义目标分布并进行一阶近似投影，LPO则将其显式化：先限制近端目标于单纯形以明确目标，再通过精确散度最小化投影策略。该框架能在列表目标上实现单调改进，其投影梯度有界、零和且自校正，并通过解耦的投影步骤灵活选择散度。实验表明，在相同目标下，LPO训练性能持续优于典型策略梯度基线，同时保持了优化稳定性与响应多样性。
EMO是一种新型混合专家模型，旨在实现模块化部署，允许独立使用和组合专家子集，而无需人工定义先验。其核心设计是让来自相似领域的token依赖相似的专家，仅利用文档边界即可在预训练中自发形成连贯的专家分组。研究团队使用1T token预训练了一个活跃参数1B、总参数14B的EMO模型。完整模型性能与标准MoE相当，但关键优势在于支持选择性使用专家：仅保留25%的专家仅导致1%的绝对性能下降，保留12.5%时下降3%，而标准MoE在相同设置下会失效。此外，EMO中的专家子集在语义层面（如数学、代码等领域）实现专业化，不同于标准MoE仅表现出的低层次句法专业化。这为大型稀疏模型的模块化、内存高效部署开辟了新路径。
SpaceX与Anthropic达成协议，后者将获得其大型AI超算Colossus 1的全部算力使用权。该超算配备超过22万颗英伟达H100、H200及下一代GB200 GPU。Anthropic将利用这些算力显著提升Claude付费订阅用户的服务容量，包括将Claude Code的五小时速率限制提高一倍、取消高峰时段限速，并大幅提高Claude Opus模型的API速率限制。此外，双方还计划合作开发吉瓦规模的轨道AI算力设施。
现有基准如VSI-Bench主要评估基础几何感知能力，但未能触及具身智能所需的高阶认知。为此，研究团队推出了空间功能智能基准SFI-Bench，该基准包含超过1700个问题，数据来源于多样化的第一人称室内扫描视频。SFI-Bench旨在系统评估多模态大模型从物体位置感知到功能意图理解的高级空间推理能力，标志着对智能体空间认知的评估从几何层面迈向功能层面。
为确保 vLLM 从 0.8.5 到 0.18.1 的重大重写后，在线强化学习训练结果与 V0 参考运行一致，团队优先修复后端行为而非调整 RL 目标。关键修复包括：将日志概率模式设为 processed_logprobs 以匹配采样器分布；禁用 V1 特有的前缀缓存和异步调度等运行时默认值；调整权重更新路径以匹配 V0 的缓存保留行为；并确保 rollout 后端使用 fp32 精度的 lm_head 进行最终投影。这些措施消除了策略比率均值偏差，使 V1 在 KL 散度、熵等指标上与 V0 达成一致。
Google 为其 Gemma 4 开源模型家族发布了多令牌预测模块，可将文本生成速度提升高达三倍。该技术通过一个小型辅助模型一次性预测多个令牌，再由主模型单次检查完成验证，从而显著提高了推理效率。
字节跳动火山引擎发布豆包大模型家族首款全模态理解模型 Doubao-Seed-2.0-lite 升级版。该模型原生统一支持视频、图像、音频和文本理解，并能进行跨模态联合推理，在物理、医疗等学科推理及细粒度感知上表现超越此前Pro版本。音频方面支持19种语种转写及多语种互译，多项基准测试优于Gemini-3.1-Pro。同时，其Agent、Coding与GUI能力升级，能更稳定处理长任务、胜任深度开发，并实现界面理解与操作执行的闭环。新版本已在火山方舟上线，旨在为企业提供高性价比的全模态任务部署方案。
AMD首席执行官苏姿丰在财报会议上宣布，已开始向核心客户送样Instinct MI450 GPU加速卡，并计划在下半年逐步提高Helios AI机架的出货量。客户需求强劲，已超出公司对2027年的内部预期，OpenAI等已签署大规模部署协议。MI450基于CDNA 5架构，其FP8算力较前代翻倍，并升级搭载了HBM4内存。该系列被AMD用来对标英伟达的竞品平台，其内存容量和横向扩展带宽具备优势。
AMD CEO苏姿丰在财报会议上指出，智能体AI正重塑服务器CPU市场。她表示，AI是增长核心驱动力，云服务商正扩展部署AMD霄龙处理器。智能体AI工作负载需要额外CPU算力进行任务编排和数据移动，这推动了CPU需求的强劲增长。苏姿丰预计，在智能体AI推动下，服务器CPU市场的年复合增长率可能达到35%。她强调CPU需求是对GPU市场的补充，并透露CPU与GPU的配比正从传统的1:4或1:8向1:1演进，在智能体密集场景中CPU数量甚至可能超过GPU。
OpenAI于5月5日将ChatGPT默认模型升级为GPT-5.5 Instant，重点提升准确性与简洁性。新模型在医疗、法律、金融等高风险领域，幻觉声明较前代减少52.5%；在用户标记的事实错误测试中，不准确声明降低37.3%。回复内容更简洁，减少了不必要的表情符号和冗长格式。所有用户即日起开始获得更新，付费用户可继续使用GPT-5.3 Instant三个月。
地理空间推理模型通常依赖人工标注的边界框坐标进行监督，这限制了其在海量无标注遥感数据上的自我进化。为此，研究团队提出RemoteZero框架，它利用多模态大语言模型在判别区域语义方面的优势，以内在语义验证取代几何坐标监督，从而实现了无需边界框标注的训练。该框架支持迭代式自我进化，模型能够利用自身产生的验证信号从无标注影像中持续学习。实验表明，RemoteZero在定位任务上取得了与强监督方法相竞争的性能，展现了自验证训练在地理空间推理领域的潜力。
研究团队提出神经规则归纳器（NRI），一种用于零样本规则归纳的预训练模型。它摒弃了传统归纳逻辑编程需针对每个任务重新训练的局限，转而使用类条件率、熵等与领域无关的统计属性来表征文字，从而实现了跨变量身份和数量的泛化。模型包含统计编码器和平行槽式解码器，后者保持了逻辑析取的排列不变性。通过乘积T-范数松弛实现规则的可微分执行，支持仅基于预测准确性的端到端训练。评估表明，NRI在规则恢复、对噪声和虚假相关性的鲁棒性，以及在真实世界基准上的零样本迁移方面表现良好，为符号推理的基础模型开辟了新可能。
Google为Gemma 4模型引入了多令牌预测生成器技术，显著提升了推理速度。该技术允许模型在单次前向传递中预测多个未来令牌，而非传统的逐个令牌生成。在代码生成等任务中，这一方法实现了高达3倍的推理加速，同时保持了输出质量。这项优化旨在降低大语言模型的部署成本，提高响应效率，适用于需要快速生成较长文本的场景。
ChatGPT的默认模型已更新为GPT-5.5 Instant。新版模型能提供更智能、更准确的答案，并有效减少了幻觉现象。同时，用户获得了更强的个性化控制能力，使交互体验更贴合个人需求。此次升级标志着模型在理解精度与响应定制化方面取得了显著进步。
Runway平台团队开发的NCCLBack系统，通过P2P权重传输将模型冷启动时间从数分钟缩短至数秒。其核心创新在于让新启动的GPU推理节点直接从集群内已加载权重的同级GPU获取模型参数，而非从云存储重复下载。该系统利用GPU互连（如InfiniBand、NVLink）高达200-400 Gbps的带宽，相比传统存储下载的2-10 Gbps实现了数量级提升。通过Redis协调与NCCL广播原语，NCCLBack确保了数据传输的效率和正确性，使得大规模集群部署新模型时，冷启动时间不随节点数量线性增长，基本保持恒定。
大型视觉语言模型因优化目标无法约束视觉轨迹，易产生语言偏见与幻觉。现有方法引入视觉专家的几何先验作为监督，但偏向几何精度且推理效用有限。为此，本研究提出感知流网络，通过解耦感知与推理建立自条件生成过程，并借助变分强化学习整合多维奖励与邻近几何塑造，从而在保持视觉可靠性的同时促进面向推理的感知行为。该方法具备可证明的性能保证，在V* Bench与MME-RealWorld-lite基准上分别取得90.6%与67.0%的分数，创造了新的性能记录。