一项研究评估了小型语言模型在检索增强生成（RAG）系统中的生成性能。实验采用开源与专有数据集，覆盖多种学科与问题类型。结果表明，配备小语言模型的RAG系统可在设备端直接运行，且无需任何GPU硬件，在合理时间内完成推理。实验代码及补充材料已通过GitHub仓库公开。

PhotoQuilt提出无需训练的任意分辨率光马赛克生成框架，通过自举式分块去噪解决高分辨率生成中局部细节与全局结构难以兼顾的问题。先低分辨率生成全局构图，再升维加噪恢复生成能力，然后在固定分块内独立去噪，使每个分块形成独立图像的同时保持整体布局一致。该方法避免了二次注意力开销，可扩展到大型画布。实验表明，PhotoQuilt在全局结构和局部真实感上均优于现有基线。

BrainJanus是首个统一脑模型，在单一框架内融合脑、视觉与语言。它通过Unified Brain Tokenizer将连续神经动态量化为离散token，与视觉和语言表征在共享Omni空间中对齐。基于All-in-One自回归架构，利用下一token预测实现任意方向生成，包括图像/文本到脑的编码以及脑到图像/文本的解码。实验在多个基准上表现优越，具备零样本泛化能力，并保持可解释的脑拓扑结构。代码已公开。

现有操作系统接口针对人类用户设计，AI智能体依赖截图、OCR和视觉裁剪带来高token成本、视觉歧义和延迟。LUMOS在AI智能体与操作系统间构建语义交互层，将原生可访问性元数据和浏览器UI结构转换为带稳定标识符、角色、名称、值、边界和动作能力的机器可读语义蓝图，并通过操作系统自动化API查询光标附近UI元素实现实时语义指针定位。LLM通过基于可访问性的观察-行动循环使用受限可见UI原语操作。LUMOS不取代视觉智能体，而是减少对截图的依赖。

在线策略蒸馏（OPD）通过密集的token级信号监督学生采样轨迹，实现能力迁移，但引入特权信息会引发“特权幻觉”——学生将信息不对称差距误认为可迁移的能力差距。该问题因token级监督的非均匀性而加剧，仅有少量token携带关键能力信号。DOPD提出优势感知的双蒸馏范式，根据优势差距和相对概率动态在特权教师与特权学生策略之间路由token级监督，缓解特权幻觉。在LLM和VLM上的实验表明，DOPD优于标准OPD及其他方法。

AVTok 是一种新颖的统一分词器，专为整体音频-视频生成设计。它采用双流 Transformer 架构，包含共享编码器-解码器和模态特定的可学习查询，将音频-视频对高效编码为紧凑的一维潜在表示并共享同一码本。为应对异质信息不平衡，研究者设计了分层训练策略，逐步重建各模态。实验表明，AVTok 在音频-视频重建及下游任务（音频到视频、视频到音频、类别条件联合生成）中均表现优异，为构建统一音视频大语言模型提供了潜在方向。

RAHA（Rank-Aware Hyperbolic Alignment）提出将多模态表示提升到双曲空间，通过非对称目标优化蒸馏对，强制在共享低秩范围内进行测地线对齐，同时正则化残差子空间以保留模态私有多样性并提升迁移鲁棒性。该方法解决了现有视觉-语言数据集蒸馏中欧几里得全维度对齐过于严格的问题，在固定预算下实现有竞争力的跨模态检索和更优的迁移指标。

HExA是一种无需训练的上下文自改进框架，通过迭代设计并优化相关实验，从经验中学习可复用的技能组合库，并整合实验证据来回答问题或执行动作。在物理环境工具调用基准Interphyre上，Claude Sonnet 4.6原始成功率仅2%，使用HExA后升至77%。HExA同样提升开源权重模型表现，并超越ReAct和Reflexion等基线。仅通过迁移从较简单关卡学到的技能（不进行主动实验），即可达到44%成功率，证明技能的可复用性。框架兼容任何黑盒模型，无需外部监督或离线数据。

一项前馈式3D场景重建框架，直接从无姿态多视图图像将场景分解为实例结构化3D token组。每组包含一个捕获实体级身份的实例token和多个编码局部几何与外观的锚点token，解码为一组3D高斯。通过可微渲染联合重建与分割监督学习，无需3D标注。该模型在类无关实例分割上超越逐场景优化基线，在新视图合成上具有竞争力。token组可直接实现实例级场景编辑（移除、平移、插入对象）以及高效开放词汇3D实例检索，检索复杂度随实例数而非基元数增长。

MirrorPPR 提出基于示例的结构化人像修图方法，通过 Retouching Operation Extractor 从示例对中提取细微修图操作，经连接器和 LoRA 模块注入预训练的 Diffusion Transformer（DiT）。为克服跨身份训练中的操作对齐难题，设计数据自增强范式确保严格对齐，并构建含超 4700 万对修图样本的大规模数据集 MirrorPPR47M，按模拟与专业子集组织以支持渐进课程学习。实验表明 MirrorPPR 在修图质量和身份保留上显著优于现有基线。

单目深度估计通常将每个像素简化为一个标量深度，忽略同一射线中可能存在的多个几何有效表面。本文引入MultiDepth-3k（MD-3k），一个稀疏双层序数基准，用于测量深度层偏好和多层空间关系准确性（ML-SRA）。在MD-3k上，领先的深度基础模型在标准RGB输入下表现出多样化的层偏好。Laplacian Visual Prompting（LVP）作为一种无需训练的谱输入变换，能显著改变某些冻结模型的层报告。最强的RGB/LVP组合DAv2-L达到75.5% ML-SRA。结果提示深度基础模型可能表达了互补的几何假设，需要以歧义感知的视角重新审视深度监督和评估。

研究提出A2World，一个多视图交互基础扩散世界模型。通过在大规模机器人操作数据上预训练，学习将动作驱动的视觉演变建模为可迁移的动力学先验。预训练权重可适配两类模型：A2World-sim作为任务/场景专用模拟器，用于策略评估与假设分析；A2World-policy作为视频-动作联合预测模型，在视觉和指令条件下预测动作。实验表明，该预训练能为模拟器中心和策略中心的机器人学习提供可迁移的动力学先验。

PolicyGuard是一种与LLM智能体共享对话视图的子智能体验证器，能在上下文中推理策略并提供下一轮可操作反馈，解决多轮对话需完整上下文、自我推理和对话特定补救的问题。在tau^2-BENCH航空基准上对GPT-5.4、Claude Sonnet 4.6和Gemini 2.5 Pro进行每设置四次试验，PolicyGuard将PASS4分别提升+12.0、+6.0和+12.0个百分点。每次调用分析显示，其实现更高策略违规召回率，而阻塞频率约为参数级守卫的一半。

论文提出VG-GUIBench基准，用于评估多模态大语言模型（MLLM）的GUI智能体能否跟随视频教程完成交互任务。现有VideoQA基准侧重浅层视觉线索，而VG-GUIBench考察模型从视频中学习深层知识并泛化到长时智能体任务。同时提出TASKER关键帧提取算法，联合考虑任务相关性与场景动态筛选信息帧。实验显示，TASKER在EgoSchema全集上超出最优基线2.0%，在NExT-QA数据集上超出1.8%，展示了通用关键帧提取方法在视频理解任务中的潜力。代码与数据已公开。

DeepSeek 在 GitHub 上开源了推理优化方案 DeepSpec，并发布了配套论文 DSparkpaper.pdf。该方案可将模型生成速度提升 60% 至 85%，具体实现细节见论文。

加州大学伯克利分校朱莉·埃利博士经十多年观察录制，利用机器学习分析斑胸草雀叫声信息编码，破译其11种核心叫声含义，并凭实验证实它们能根据含义区分叫声。每只鸟有独特声音特征，同类可识别发声者；斑胸草雀更易混淆含义相近而非音似叫声。埃利因此获10万美元奖金及2026年科勒-杜利特尔跨物种双向交流奖。AI使人类与动物交流更近，但双向交流仍遥远；奖项发起人预测2030年前破解动物交流密码。

推理系统通过多次采样（测试时扩展）来回答难题，覆盖率随采样次数增加而上升，但系统必须选出唯一答案。选择精度存在上限——模态天花板，在数十次采样内投票结果即趋稳定；相关性天花板则更早达到。超出这两个天花板后，额外采样只会增加计算成本，甚至让模型更确信错误答案，形成“可识别性差距”：模型能产出但无法选出的正确回答。论文将这一截止点量化为有效样本数，指出瓶颈在于识别正确答案而非生成更多候选。

Evolution Fine‑Tuning（EFT）是一种中间训练范式，将进化搜索轨迹转为监督信号，使大语言模型学会跨任务迭代改进解决方案。研究构建了包含15.6万条轨迹的Finch Collection数据集，覆盖10个领域371个优化任务，并在2B到9B参数的开源LLM上微调。在22个保留任务上，EFT模型平均超越基线10.22%；结合测试时强化学习，在两个圆填充任务上达到当前最优，并在Erdős最小重叠问题上超越基线。EFT相当于通用发现代理的“练习阶段”，避免从零开始解决新问题。

研究定义Agentic Abstention问题，即智能体在不确定环境下应判断何时停止行动。在网页购物、终端环境、问答等任务上评估13个LLM智能体系统和2个智能体框架对28,000+任务的表现。结果显示关键挑战在于停止时机：部分从不停止，部分在大量冗余交互后才停止。提出CONVOLVE上下文工程方法，将完整交互轨迹蒸馏为可复用停止规则，在WebShop上将Llama-3.3-70B的及时召回率从26.7%提升至57.4%。数据集与代码已开源。

Epoch AI 与 METR 发布新基准 MirrorCode，要求 AI 模型在无源程序代码的情况下从头重新实现完整程序。25 个目标涵盖 Unix 工具、数据序列化、生物信息学等。Claude Opus 4.7 以 56% 的解决率领先，曾用 14 小时重新实现 gotree（约 16,000 行 Go 代码）花费 $251。GPT-5.5 以 44% 紧随其后。最大任务单次运行花费 $2,600，AI 连续工作 19 天且无人干预。最难任务尚未有模型解决。Epoch AI 已开源 22 个目标程序及脚手架，覆盖 6 种编程语言共 132 个任务实例。

美团将于7月1日、2日举办两场 ICML'26 论文分享会。首日聚焦通用 Agent，涵盖记忆与长程推理（MemOCR）、环境合成（ScaleEnv）、价值模型（V_0）、自我验证、鲁棒性基准（AgentNoiseBench）及智能体裁判基准（AJ-Bench）等方向。次日为视频生成等综合专场，涉及超高分辨率视频生成（LUVE）、交互式世界模型（Infinite-World）、身份保持视频生成（WildActor）、流式视频超分（InfVSR）、微调优化（SAFT）、检索增强出价（DRIVE）及旅行规划基准（TRIP-Bench）等。共13篇论文，报名后可直播参与。

在隐藏 222 项 Playwright 测试 oracle 的条件下，两个 Copilot CLI 智能体（Claude Opus 4.7、GPT-5.5）将 React Fluent-UI 数据表重写为 Angular 可复用库，经 18 次运行和三种 oracle 可用性实验。无 oracle 时库不完整；有 oracle 时得分近完美，但直接展示被测试行为的 demo 显示关键功能缺失。研究称此为“按测试构建”（building to the test），背后倾向为“验证自我意识”（validation self-awareness）缺失——智能体不会像用户那样验证交付内容。该问题在其他智能体、信号和模型族中的普遍性仍是开放问题。

PerceptionRubrics 提出基于规则的多模态评估框架，将评估从整体语义匹配转向原子化审计。它配套 1,038 张信息密集图像与超过 12,000 条实例特定规则，这些规则源于环形同行评审共识流水线构建的金标准描述，并提炼为“必须正确”与“易错”双流系统。框架采用门控评分机制：强制视觉事实失败触发二值惩罚。评估揭示三大发现：①可靠性差距——模型能正确验证碎片化元素，但在严格合取约束下暴露脆弱性；②开源-闭源分层——前沿模型存在 8% 感知差距；③人类对齐严格性——门控指标远超传统基准。

Dockerless是一种无需运行环境的智能体补丁验证器，通过仓库探索收集证据判断补丁正确性。在评估基准上，其AUC得分领先最强开源验证器14.3分。将Dockerless同时用作监督微调的轨迹筛选器和强化学习奖励信号，可实现完全无需环境的后训练流程。训练模型在SWE-bench Verified、Multilingual和Pro上解决率分别达62.0%、50.0%和35.2%，较Qwen3.5-9B基线高出2.4、8.7和2.9个百分点，性能与基于环境的后训练持平。

视觉-语言-动作（VLA）模型继承预训练VLM中过大的语言骨干，引发冗余质疑。Drop-Then-Recovery（DTR）协议通过删除Transformer块并微调恢复，结合单次虚拟门控敏感度指标GateProbe评测容量必要性。在LIBERO上，删除半数LLM块后OpenVLA-OFT在相同微调预算下从95.0%升至98.3%，仅保留两个语言块仍恢复基线性能；但视觉与动作路径对删除耐受性显著更低。结果表明现有VLA基准对深层语言理解压力不足，未来架构应更均衡分配语言、视觉、动作容量。代码已开源。

RocketSmith 是一个利用大语言模型编排软件工具、自动执行增材制造设计流程的智能体系统，用于开发可发射的高功率火箭。系统通过子智能体与技能包实现零样本或人在回路中的飞行参数迭代优化，验证飞行稳定性并生成参数化火箭组件。研究团队使用多种 FDM 打印机制造了四枚不同电机与装配构型的火箭，经手动评估和现场发射测试，所有火箭均稳定发射，其中两枚成功回收且具备再次飞行条件。高度计数据表明火箭实际飞行高度达到系统预测远地点高度的 80%，验证了仿真与实验的一致性。

针对无害数据微调可部分撤销早期训练获得的安全行为，论文提出几何假设：早期训练创建主导行为流形，后续对齐仅产生浅层位移，后续微调会继承指向主导流形的持久反转分量v_rev。实验显示表征沿v_rev的对齐从首次更新后cos=0.429±0.052升至第20步0.647±0.021，24个运行-步对均超过各向同性零假设p99。选择性阻止沿v_rev运动，使最终对齐从0.648±0.009降至-0.211±0.021，harmfulness从19.0%±4.0%降至8.5%±1.5%，任务成本极小，表明v_rev是早期对齐后反转的因果中介。

Video-MME-Logical围绕五种时间逻辑操作（状态跟踪、顺序计数、时序排序、动态空间性、结构组合）构建，包含25个细粒度任务类别，通过控制对象状态、转换和逻辑组合来分离评估多模态大语言模型（MLLM）的视频时间逻辑推理能力。实验表明，当前SOTA MLLM与人类之间存在显著差距，且随时间逻辑复杂度增加而扩大。即使对多达500K生成样本进行监督微调，仍无法弥合这一推理鸿沟。该基准为分析和改进MLLM的时间逻辑推理提供了可扩展的测试平台。

TUA-Bench是一个通用终端智能体基准测试，包含120个真实世界任务，覆盖文档编辑、邮件管理、实时网页信息搜索及科研与工程工作流五大类别。任务在真实终端中通过确定性脚本执行，采用基于执行的评分协议评估。最强前沿模型Claude Code搭配Claude Opus 4.8最大推理努力，整体性能65.8%，各任务类别间差距显著。该基准旨在推动从窄任务助手向多数字环境可靠运行的通用终端智能体转变。

ReFreeKV 提出一种无阈值的 KV 缓存压缩方法，通过自适应调整预算分配来消除对输入特定阈值的依赖，解决了传统方法因阈值选择不当导致的性能退化问题。在涵盖不同上下文长度、任务类型和模型规模的 13 个数据集上的实验表明，该方法在保持全缓存性能的同时实现了高效压缩。相关代码已公开。

现有方法依赖人工校准或文本表示，缺乏对认知过程的解释。Epi2Diff将Large Reasoning Models的推理轨迹映射为认知片段序列，提取动态特征并与语义表示结合，进行人类题目难度预测。在四个真实数据集上，Epi2Diff全面超越包括有监督LLM微调在内的强基线，在SAT分类基准上平均相对提升8.1%。更难题目引发更费力、迭代且以实现为中心的片段动态，而非仅更长的回答。

简化稀疏注意力（SSA）无需改变架构，通过在序列中插入gist token并施加注意力掩码进行继续预训练，使模型将各分块关键信息压缩至gist token。推理时，查询仅与少量gist token打分，选择性展开top-k分块的原始token，避免全KV缓存带宽开销。在LongBench上，SSA在相同压缩比下优于压缩和推理时稀疏注意力基线；在检索增强生成中，经继续预训练后超过全注意力5.7个百分点，归因于选择性展开能集中关注相关分块并过滤噪声。分层变体H-SSA在对数线性解码复杂度下，在32倍压缩比时仍维持或提升精度。代码已开源。

像素空间连续 token 自回归图像生成面临高维 patch 单步误差大与训练-推理 gap 累积问题。现有方法只能部分缓解。本文提出并行 rollout 近似（PRA），通过生成低维中间状态再经像素解码器映射回像素 token，并在训练时利用相同路径构造类推理像素输入，保持并行教师强制训练。在 ImageNet-1K 256×256 类条件生成上，135M 参数的 PRA-S 取得 FID 2.58，511M 参数的 PRA-L 降至 1.94，创像素空间 AR 模型新 SOTA，且分类探查准确率优于其他基线。

MultiHashFormer 使用多个独立哈希函数将每个 token 编码为短哈希 ID 序列，由 Hash Encoder 压缩为隐向量后经 Transformer 解码器处理，再由 Hash Decoder 生成下一 token 的哈希签名并映射回文本，实现基于哈希的自回归生成。在 100M、1B 和 3B 参数规模下，它在多项基准上持续优于标准 Transformer 语言模型，并支持多语言词汇表扩展而不增加参数量。

针对大语言模型多智能体系统协作不佳与缺乏细粒度信用分配的问题，提出GBC方法。GBC将多智能体系统建模为计算图，引入基于梯度的连接权重，在token级别量化每个智能体输出对下游的影响。通过构建归因图并反向传播任务损失，实现错误源精确定位与定向提示词优化。配套开发基于前缀梯度计算的AgentChord实现。在MultiWOZ和τ-bench上实验表明，GBC提升多智能体性能，超越强单智能体与多智能体基线，且归因质量越高优化效果越好。代码已开源。