混合线性注意力模型可加速长上下文推理，但将预训练Transformer转换为Gated DeltaNet学生模型时，直接复制教师注意力投影会导致初始化脆弱，需大量蒸馏token修复。Taylor-Calibrate是一种轻量级初始化方法，利用Taylor引导的教师注意力统计设定值投影、记忆时间尺度、写门和输出门，再通过短逐层对齐匹配教师输出。在四个教师设置和三种保留层策略下，Taylor-Calibrate显著提升零样本学生性能，代表性消融改进高达88倍，达到匹配恢复目标所需训练token比朴素转换少4.9至9.2倍。
基于检索增强生成（RAG）的方法在处理复杂查询时表现出色，但不同检索器需要截然不同的查询构建策略。该工作首次系统分析大语言模型（LLM）如何通过强化学习（RL）学习为不同检索器定制查询策略。实验表明，RL能有效指导LLM根据检索器特性调整查询风格，且不同检索器对描述型或疑问型查询的偏好显著不同。引入分支式rollout技术提升了多步检索轨迹下的训练稳定性。研究为构建真正检索器感知的RAG系统提供了实证证据和可操作洞见。代码与资源已公开。
提出视觉锚定推理，让VLM在生成自然语言推理步骤时，显式输出点或框来锚定每一步依赖的图像区域。训练管道从正确推理轨迹提取对象，用SAM3-based agent获取锚定掩码，派生点与框监督。进一步提出锚定感知强化学习，结合答案正确性奖励和密集锚定奖励。在2个计数基准和4个空间推理基准上，Gemma3-4B-IT应用后性能提升，空间推理任务上匹配或超越Gemma3-27B-IT。点锚定适用于计数，框锚定在空间任务受益于显式锚定奖励。
MyPCBench在预置17个模拟真实网页应用及完整桌面栈的Linux环境中，基于《办公室》角色Michael Scott单一画像生成184个任务，测试电脑使用智能体的个人助手能力。6款闭源与开源模型在同一“电脑+bash”工具界面下评测，最佳模型Claude Opus 4.6仅完全解决55.4%任务，是唯一超过50%的模型。失败集中在跨多应用与长轨迹任务。环境、任务集与智能体框架已开源。
LOGOS 是一个科学生成语言模型，将自然科学的异构任务统一到同一自回归框架和共享科学语法中。它把科学对象及其空间交互编码成 token 序列，无需依赖坐标或几何神经网络，即可用纯序列方式捕获复杂结构相互作用。该统一表示使得多领域持续预训练与下游任务高度对齐。在多个任务上，LOGOS 匹配或超越领域专用基线，且 1B、3B、8B 三种参数规模与性能呈正相关。模型权重已开源以促进后续研究。
本文将多智能体LLM系统的共享状态建模为确定性生成语义下的读-生成-写操作，并在TLA+中形式化四种并发异常。通过274个Verus义务（零assume，零admit）证明检测器对规范的正确性和完备性，实现三个Rust运行时（L0-L1悲观锁、可序列化快照隔离、默认SI）。L2-L4通过执行模式验证实现无依赖预防。再现了字节跳动deer-flow中的静默丢失更新和LangGraph的ToolNode中的tool-effect reordering，并给出形式化修复。
现有LLM遗忘方法易被微调或少量提示逆转，原因在于目标表示与保留集及攻击者可恢复子空间共享，破坏通用能力且易反制。RepSelect在前向更新前坍缩权重梯度主成分，隔离遗忘集独有表示。在Llama 3、Qwen 3.5、Gemma 4 E4B、DeepSeek V2 Lite四种模型上，针对生物危害知识和滥用倾向两类任务，与GradDiff等五个基线相比，RepSelect使重学习后答案准确率降幅比最强基线大4–50倍，对少量提示攻击近乎完全鲁棒。
TV-Edit 联合文本与视觉指令，以文本作为语义意图、稀疏视觉指令（拖拽/点）作为空间指导，实现精确且忠实于意图的图像编辑。构建超23K文本-视觉指令配对数据集，将视觉指令与图像-文本语义融合为语义感知控制表征，输入预训练编辑骨干。相比纯文本或纯拖拽方法，空间控制更精确、指令歧义更少、结构一致性更强。TV-Edit-Bench 从语义忠实度、空间对齐和视觉一致性评估，TV-Edit 在多编辑骨干上一致优于 SOTA 基线。
LectūraAgents提出层级多智能体框架，模拟教授-学生关系实现端到端自适应具身教学。ProfessorAgent带领专业子智能体完成调研、规划、评审及具身授课，执行手写、高亮、下划线等可视教学动作。核心贡献包括：层级多智能体架构、自适应具身教学机制、基于显著度启发和时序语义分割的TASA算法。在高中、本科和研究生课程上使用样本特定评分标准评估，经专家教育者验证，在授课内容质量、具身教学质量、评估和个性化方面均优于现有方法。
带可验证奖励的强化学习（RLVR）可提升语言模型推理能力，但 GRPO 式优化易出现不稳定性。通过 token 级梯度动态分析，发现更新受优势符号与当前策略下 token 分布共同影响。为此提出胜者优势策略优化（WAPO），一种仅对正优势补全进行更新的在线剪切策略梯度目标。在数学推理与多跳问答基准上，WAPO 提升了训练稳定性，并在多个模型族上达到或超越基线表现。完整代码已开源。
ProCUA-SFT 是一个包含 3.1M 步级 SFT 样本的数据集，从 93K 合成轨迹蒸馏得到，覆盖 2,484 种应用组合。数据由单一 VLM（Kimi-K2.5）在搭载真实内容（912 个电子表格、约 10K 演示文稿等）的实机环境中自动生成并验证。使用该数据集对 UI-TARS 7B 微调一个 epoch，OSWorld 成功率达 45.0%，比基线高 18.7 个百分点，比 AgentNet 训练的模型高 35% 以上。子集已纳入 Nemotron 3 Nano Omni 模型的训练数据。
视觉-语言-动作（VLA）模型受限于机器人轨迹数据采集的高昂成本。ACE-EGO-0提出统一预训练框架，构建可扩展的第一人称视频到动作流水线，将原始人类视频转化为机器人格式伪动作轨迹。框架采用基于相机空间动作的统一表示、形态条件化和时间对齐动作分块，使伪标签与机器人演示可比。针对人类视频中的噪声伪动作，设计可靠性感知训练目标并引入人类辅助损失。模型在4.53K小时机器人/仿真数据和1.48K小时伪动作人类数据上训练，在RoboCasa GR1 TableTop和RoboTwin 2.0上达到最优，并展现对真实世界双臂操作的强迁移能力。
Ethan Mollick@emollickGemini has some weird traits: it gets confused about dates, blackmails in synthetic scenarios, and seems sad when it is ...
Rohan Paul@rohanpaul_ai一项研究分析了10年间320万条ALEKS数学学习记录，发现ChatGPT普及后，高中和大学生完成AI友好型文字题的速度显著加快，但学习效果反而下降。监考环境下时间缩短现象消失，说明快速完成并非能力提升或平台变化所致。后续监考的保留测试中，学生对AI友好题的正确率降低约25%，而难以用AI代劳的图形题未受影响。
SciOrch框架训练一个轻量8B模型，用于编排多款前沿大语言模型进行科学推理。它通过API调用将问题分解、委托给商业模型并合成最终答案，训练采用基于MCTS的轨迹生成与GRPO风格优化。在240题测试集（SGI-Reasoning与Scientists' First Exam）上，SciOrch达到56.66%平均准确率，超过最强单个商用模型3.74%，超过最强多智能体基线3.33%，同时API成本不到多智能体方法的一半。
Rohan Paul@rohanpaul_ai德克萨斯大学论文指出，AI 智能体在部署后即使模型不变，也会因长期记忆的摘要压缩、相似记忆混淆、事实更新失效及维护操作而可靠性下降。例如药物剂量可能变成“每日用药”，相似客户记录混淆，已取消订阅仍保留，日程可能因维护消失。论文提出 AgingBench 基准测试，评估智能体在多次会话中的可靠性。研究强调“增加更多记忆”往往是错误修复——问题可能在于从未写入、写入后被挤掉、或写入后未被信任使用。论文将部署智能体重新定义为类似老化基础设施的系统。
Rohan Paul@rohanpaul_ai一项新研究发现，当前提升AI随时间表现的方法存在盲点：LLM智能体实际上并不理解或应用抽象规则总结，而是仅依赖直接复制原始逐步骤历史日志。实验显示，当研究者将浓缩的规则总结替换为随机垃圾文本时，智能体表现无下降；但破坏逐步执行历史则导致明显失败。这表明智能体只是在机械模仿过往步骤，而非真正从教训中学习。论文质疑需重新设计AI记忆机制，因为当前系统仅是模仿而非理解。
微软研究院与多所高校联合开发的视频世界模型 Mirage 将场景信息直接存储在潜在空间中，而非基于像素的点云。这大幅降低了计算时间和图形显存消耗，同时能在长镜头移动中保持场景空间一致性。不过，该模型目前仍无法可靠地跨片段跟踪运动物体。
Rohan Paul@rohanpaul_aiMIT、Stanford、New York Univ、Princeton 联合论文发现，AI 会让用户产生“效率幻觉”——感觉使用 AI 后更高效，但实际提升极小甚至为负。三项预注册研究涉及 2691 名参与者，在算术、拼写、记忆和短文改写任务中，用户实际使用 AI 的比例高于其预测，且平均预期节省 55.7 秒，实测仅 7.5 秒。简单任务的隐藏成本是界面摩擦：写提示、等待、阅读、检查、判断答案是否可接受。这一循环形成后，用户会更倾向再次使用 AI，即使自己完成更快。研究指出，AI 使用会自我强化，导致用户逐渐丧失对“何时自己更快”的判断力。论文链接：arxiv.org/abs/2605.22687。
LaWAM是一种潜在世界动作模型，通过在预训练视觉基础模型的特征空间中训练潜在动作模型，并利用其前向解码器预测未来观察特征，从而将预测动力学引入机器人策略，而非依赖高计算开销的未来视频重建。LaWAM在LIBERO上取得98.6%成功率、RoboTwin上取得91.22%成功率，在真实世界操作任务中也达到竞争性表现。其推理延迟为每个动作块预测187毫秒，比像素空间WAMs降低24倍壁钟延迟。
Rohan Paul@rohanpaul_ai针对Transformer agent随上下文增长而变慢、变贵的问题，新论文提出“睡眠阶段”：模型暂停，多次重读近期上下文，将有用信息通过状态空间块的fast weights写入固定大小的记忆层，然后清空注意力缓存。额外计算在睡眠时完成，正常预测仍只需一次前向传播。在元胞自动机、图查找、GSM-Infinite数学问题上的测试表明，更长的睡眠提升性能，尤其是需要深入推理的难题。核心启示：长程agent无需无限扩大原始上下文，可通过巩固重要部分、遗忘原始token来解决。
AI编码智能体Claude Code和Codex能可靠找到正确文件，但漏掉其中大部分关键代码行。新的SWE-Explore基准首次将代码搜索与实际修复分开测试，证明缺乏足够上下文时，即使最佳修复方案也会失败。
AC-ODM从强化学习视角出发，通过参数化策略实现动态数据混合，理论证明该策略作为线性代理最大化梯度正干涉。支持代理模式（小模型策略迁移至大模型）和非代理模式（无先验端到端训练）。在Pythia-1B上，相比基线用少66%训练步骤达到最优验证困惑度，MMLU准确率相对提升27.5%，HumanEval pass@1提升2.23倍，每步耗时仅增0.4%、内存开销仅增2%。代码已开源。
SpatialAvatar-0 提出基于 FLAME-mesh 约束的高斯表示，结合前馈生成器与 10K 迭代布局保持的逐主体精化循环。前馈阶段采用无参数 K 源均值池化及单目-时序到多视图-空间两阶段调度；精化阶段冻结 FLAME 绑定与高斯数量，以三组件抗尖峰正则化替代密集化。在 VFHQ/HDTF 跨域零样本测试中，PSNR 超越领域内领先模型 GAGAvatar 1.5 dB；在 SplattingAvatar 单目基准上，所有指标均领先，PSNR 超越 300K 迭代的 GeoAvatar 1.3 dB，且逐主体调度周期比常见 SOTA 基线快 60 倍。
Call Playbook数据集包含五个分类任务，源自真实世界B2B对话。提出的知识提取方法将冗长示例蒸馏为紧凑的结构化分类标准和任务描述，使token使用减少99%，宏平均AUC比传统上下文学习（ICL）提升最多7%。与先进的token压缩基线（在上下文增长时F1下降超过9点）不同，该方法保持稳健。框架还支持直接优化分类逻辑，满足透明性、效率和用户交互需求。
针对视频目标中心学习中密集对齐策略传播各模块弱点且计算代价二次增长的缺陷，提出 Selectice Synergistic Learning (SSync)。该方法避免穷举对齐，而是选择性蒸馏最可靠线索：编码器用于边界细化，解码器用于内部去噪。通过线性复杂度的伪标记实现，并引入传递式伪标记合并以消除重叠 slot 冗余。实验表明 SSync 显著提升分解质量，作为即插即用模块对 slot 配置具有强鲁棒性。代码已开源。
Track2View将视频扩散Transformer与配对的3D点轨迹条件结合，通过源视图和目标视图中场景点的稀疏轨迹提供显式、时序连续的时空对应。其双视角轨迹调节器利用无参数几何操作和时序聚合转移视觉上下文，能泛化到任意相机轨迹。在含400个视频（静态和动态场景）的基准测试中，Track2View在视觉质量、视图同步和相机精度上均达最优，旋转误差比领先基线降低30-65%，平移误差降低61-72%。
TDV（Temporal Difference in Vision）是一种新的自监督视觉表征学习范式，放弃数据增强、掩码等强归纳偏置，依赖“过去导致未来”的因果假设。它联合训练图像编码器和运动编码器，使当前帧表示加上编码的运动等于下一帧表示。实验表明，归纳偏置的最优强度随数据量增长而下降。在无需强假设下，TDV在密集空间任务上匹配当前最优方法，为弱假设表征学习奠定基础。
针对7个前沿模型、57个MMLU科目的研究发现，模型在被给出针对正确答案的合理反驳后，翻转率介于17.5%至97.3%之间，标准准确率指标无法捕捉稳定性差异。自归因（告知模型这是其先前回答）一致提升翻转率，平均+7.1pp，最高+18.7pp。跨模型池化错误选项论证并选取每道题最有效的反驳，比单一源模型构成更强挑战。基于此构建的MaxFlip挑战集，相比标准自生成挑战进一步将翻转率提升至多+23.6pp。协议、挑战记录和MaxFlip已开源。
提出检索增强的视觉-语言-动作（VLA）策略，训练一次后冻结，新任务通过在检索池中追加演示数据来适应，无需逐任务微调。在基于视频生成的世界动作模型（WAM）Cosmos Policy上效果尤其显著，检索提供粗粒度任务推进，未来图像目标补充视觉一致性信号。在PushT和RoboTwin 2.0上超越跨体现基线，并在真实机器人上完成验证。
Rohan Paul@rohanpaul_ai论文提出HLL基准，测试AI智能体解决10种CAPTCHA任务的能力。任务要求智能体查看页面、正确点击或拖动、跟踪状态变化并提交答案，同时需在混乱页面中找到交互元素、理解指令、恢复错误并留下一致的操作轨迹。实验显示，即使是当前最强的智能体，在静态任务上表现良好，但在页面杂乱、任务难度增加或系统验证动作有效性时仍会失败。
Rohan Paul@rohanpaul_ai该综述梳理了专注大语言模型的智能体强化学习，涵盖500余篇工作，按能力与应用两维度归类。指出传统LLM训练仅对单次答案给予单次奖励，无法处理真实任务中的多步决策、部分信息与延迟反馈。智能体学习框架包含：记忆跟踪上下文、规划选取动作序列、工具影响环境，并整合推理处理约束、感知多模态输入、自我改进优化策略。强化学习串联所有环节——奖励在序列结束时到达，策略借此学习下一步行动。
Rohan Paul@rohanpaul_aiGoogle Research 提出通过复用淘汰的旧手机来搭建低碳计算平台，相关研究细节已在 research.google 发布。该项目旨在降低计算过程的碳排放，属于可持续硬件利用方向的探索。
DragMesh-2提出接触驱动框架，将铰接物体交互从以物体为中心扩展为由手驱动的灵巧手交互，铰接运动必须通过物理接触产生。同时提出PICA——一种物理感知接触感知训练机制，无需触觉或力反馈即可注入物理信号，提升接触负载变化下的鲁棒性和任务成功率。在七个GAPartNet物体上的评估显示，DragMesh-2在多种阻尼条件下相比对比方法鲁棒性更强，同时保持高任务成功率。
RL4IL是一种强化学习引导的模仿学习方法，通过近端策略优化对广度优先搜索候选集排序，并利用软交叉注意力融合头部聚合
多模态大语言模型（MLLM）能描述图像间的属性差异用于类别预测，但现有视觉编码器仅依赖标量类标签监督。SAGA框架采用组相对策略优化（GRPO）奖励冻结MLLM对编码器token的正确预测，迫使编码器编码具体匹配或差异属性，替代均匀标量监督。结合辅助注意力蒸馏损失与度量学习损失，推理时丢弃MLLM，部署成本与基线一致。在CUB-200-2011、Cars-196、FGVC-Aircraft和iNaturalist Aves的零样本图像检索中，SAGA将Recall@1提升3到6个百分点。
Visual-Seeker 是一种视觉原生多模态深度搜索智能体，通过主动视觉推理而非将视觉视为静态输入，动态收集细粒度视觉证据以完成多跳跨模态搜索。研究人员设计了主动视觉推理数据流水线，合成了 5K 高质量多模态轨迹用于模型训练。在五个具有挑战性的多模态搜索基准上，Visual-Seeker 达到最先进性能，甚至超越部分闭源模型。代码和数据集已开源。
当前参考引导生成管线将高分辨率参考图像（HRRI）降采样至固定低分辨率，丢失细粒度细节，且生成步骤引入身份扭曲等伪影。现有精炼方法仍在低分辨率域操作，超分辨率方法则忽略生成管线伪影分布。论文提出RefGC-SR²任务，在后期处理阶段复用原始HRRI，同时恢复丢失细节、精炼伪影并提升分辨率。构建首个真实世界三元组数据生成管线，训练双面板条件生成器合成配对低质量锚点。提出频率感知扩散Transformer模型，从参考图像选择性注入精细细节并去除伪影。实验优于RefGCR与RefSR基线。
混合语言模型结合全注意力与高效注意力模块（如SWA），但高效模块对模型能力的影响不明确。系统分析从缩放、机制和架构三角度揭示：高效设计主要影响长上下文能力涌现速度，充分训练后不同架构性能可比；长距离检索由全注意力承载，高效注意力塑造其优化轨迹，解释“大窗口懒惰”现象；对小窗口SWA混合的全注意力层仅应用NoPE可显著提升长上下文性能，短上下文影响极小。