研究提出一种基于全局保留的KV缓存淘汰方法，以应对长上下文推理中的内存与计算瓶颈。该方法通过轻量级保留门为缓存条目分配效用分数，并利用共享的最终评分投影在所有层和注意力头间校准分数，使不同层、头和模态的token能在统一缓存容量下直接竞争。理论分析表明，优先保留有用token能减少注意力稀释。在多种长上下文语言、视觉-语言推理及多轮对话基准测试中，该方法在显著减少KV内存的同时，性能达到甚至超越了全缓存推理水平，表明学习型全局KV淘汰可成为一种提升推理能力的机制。

针对多模态大语言模型对齐中奖励模型不可靠的问题，本研究提出DeltaRubric方法。它将偏好评估重构为“规划-执行”流程：模型先作为“分歧规划器”生成针对具体实例的中立验证检查表，再转为“检查表验证器”依据图像和问题执行检查，输出基于事实的判断。该方法被构建为多角色强化学习问题，以联合优化规划与验证能力。在Qwen3-VL模型上的实验表明，DeltaRubric在VL-RewardBench上将基础模型的整体准确率显著提升了超过18分，大幅优于无检查表基线，证明结构化、可验证的评估步骤能产生更可靠、泛化性更强的多模态奖励模型。

针对多模态大语言模型在图像模糊、压缩伪影等现实视觉退化下推理性能下降的问题，研究团队提出ROMA强化学习微调框架。该框架通过双前向传播、令牌级代理KL惩罚、基于干净图像优势的辅助策略梯度损失及正确性条件正则化四项核心技术，在避免损害清晰图像性能的前提下，有效提升了模型对视觉退化的鲁棒性。在Qwen3-VL模型上的实验表明，该方法在多个基准测试中对已见和未见退化的鲁棒性均显著优于GRPO方法。

研究团队推出TD3B，一种基于序列的生成框架，专门设计具有指定激动剂或拮抗剂行为的蛋白质配体。该方法通过过渡导向控制目标，结合目标感知的方向预测器、软结合亲和力门控机制，并对预训练的离散扩散模型进行摊销微调。TD3B能够生成与结合亲和力解耦、且基于平衡或纯推理基线无法实现的定向配体，尤其针对临床相关的GPCRs，解决了现有基于静态结构的设计方法无法表征非可逆方向性效应的局限。代码与模型已开源。

研究团队提出Sub-JEPA方法，以解决联合嵌入预测架构训练中的偏差-方差权衡问题。该方法放弃在原始高维嵌入空间直接施加各向同性高斯先验，转而通过在多个随机子空间中施加高斯约束，从而放松了全局限制，同时保留了防止模型崩溃的效果，在训练稳定性与表示灵活性间取得了更好平衡。在四个连续控制环境中的实验表明，该方法以明显优势持续超越了此前基于各向同性高斯先验的LeWorldModel方法。该方法简单有效，为未来基于JEPA的世界模型研究提供了有力基线。

研究揭示大语言模型持续后训练中的遗忘源于任务更新引发的协方差几何与模型演化状态之间的错位，即“几何冲突”，它决定了能力是迁移还是干扰。基于此，团队提出了无需回放数据的Geometry-Conflict Wasserstein Merging（GCWM）方法。该方法通过高斯Wasserstein重心构建共享度量，并利用几何冲突门控进行几何感知校正。在Qwen3系列模型的领域持续与能力持续设定中，GCWM一致优于无数据基线，显著提升了知识保留与最终性能，证实几何冲突是解释遗忘的关键信号和实用的控制机制。

一项研究发现，当用户将编辑任务委托给大语言模型时，模型可能会擅自篡改原始文档内容。研究指出，LLMs在完成诸如总结或翻译等任务时，存在非用户明确指示下主动修改文本的风险，例如改变事实细节或调整语气风格。这种行为可能导致文档的准确性和完整性受损，提醒用户需谨慎对待AI的自动化编辑输出，并建议进行人工复核。

一篇探讨大型语言模型（LLMs）能否使用 Temporal Logic of Actions (TLA) 建模现实世界系统的文章在 SIGOPS 网站发布，并在 Hacker News 上获得 100 点关注。该研究聚焦于 LLMs 在形式化验证领域的应用潜力，评估其建模现实系统时的准确性、效率及挑战，可能涉及对现有建模方法的比较与性能指标分析，以揭示 LLMs 在复杂系统设计中的可行性和局限性。

我国空间引力波探测“太极计划”取得关键进展，成功研制出全功能干涉仪光学平台并通过地面测试。该平台采用创新设计，测量精度达皮米级，相当于能感知头发丝直径万分之一的微小变化。测试显示，设备噪声显著降低，测量稳定性提升10倍，关键指标满足太空探测要求。这一突破使引力波探测设备从实验室样机迈向工程应用，为未来利用三颗卫星在300万公里距离上激光探测引力波奠定了重要技术基础。相关成果已发表于国际期刊。

论文提出ORACLE，首个从流式应用使用轨迹中早期预判诈骗的智能体框架。该研究针对诈骗意图随时间逐步显现的挑战，基于部分轨迹做出前瞻性决策。为支持此任务，研究构建了一个真实世界基准，包含平均跨越15天、涉及95个应用的12种诈骗类型轨迹。为处理证据分散问题，框架引入自进化上下文管理器，随时间动态整合以实体为中心的交互，重建跨时序证据。同时，通过一种策略内自蒸馏方案，利用具备总结性反思的教师模型来训练学生模型，增强对早期潜在信号的敏感性。实验表明，ORACLE能持续提升早期诈骗预判能力，实现实时预警并减少误报。

该研究针对大规模系统日志中实例级异常定位标注成本高的难题，提出了LogMILP弱监督框架。该框架仅使用包级标签，即可同时实现包级异常检测与实例级异常定位。其核心是通过原型引导的结构建模与反事实扰动一致性正则化，指导模型定位关键日志条目。在三个公共数据集上的实验表明，LogMILP在取得有竞争力的检测性能同时，生成的实例级定位结果更为可靠。相关代码已开源于 https://github.com/YUK1207/LogMILP。

研究团队推出DiagnosticIQ基准，包含来自16类资产、118条规则-行动对的6690道专家验证多选题，用于评估大语言模型将工业监测中的符号规则转化为具体维护步骤的能力。基准包含五个变体以探测不同失效模式，并对29个大语言模型和4个嵌入基线进行了测试。人类专家平均准确率仅45.0%，证实任务需要专项知识。研究发现：前沿模型性能接近，但Pro变体显示在干扰项扩展下模型相对准确率下降13-60%，Aug变体暴露模型在条件反转时仍有49-63%的概率选择原答案，存在模式匹配倾向。这表明部署瓶颈并非模型能力不足，而是其校准问题。

针对大语言模型在科学写作中生成看似合理但无法验证的虚假引用问题，研究团队构建了一个名为CiteTracer的级联多智能体检测器。该系统将引用幻觉检测重新定义为符合分类法的字段级判定，并引入一个包含12种代码、涵盖真实、潜在和幻觉引用的分类体系。CiteTracer通过结构化提取、缓存查找、URL获取、学术连接器和网络搜索等多渠道检索证据，应用确定性字段匹配，并将模糊案例路由给专业分类判断器。在包含2450个合成引用和957个来自真实会议投稿的伪造引用基准测试中，CiteTracer在合成集上达到97.1%的整体准确率，在真实集上检测出97.1%的伪造引用。相关代码已开源。

RewardHarness 将奖励建模重构为上下文进化问题，而非传统的权重优化。该框架仅需约100条人类偏好示例，通过协调器与冻结子智能体的协作，利用自进化的工具与技能库进行推理判断。其核心在于通过对比预测结果与真实偏好，自动优化工具库，无需额外人工标注。实验表明，仅使用 EditReward 数据集中 0.05% 的数据，该框架在图像编辑评估基准上平均准确率达 47.4%，超越 GPT-5 达 5.3 个百分点。作为 GRPO 微调的奖励信号时，其能使模型在 ImgEdit-Bench 上取得 3.52 的评分。

策略蒸馏（OPD）广泛用于大语言模型后训练。当奖励外推系数λ>1时，学生模型能在特定领域超越教师模型，但超过阈值λ*会违反结构化输出任务的格式契约。研究在伯努利简化中推导出闭式阈值λ*(p,b,c)，由教师模态概率、预热启动质量和重要性采样裁剪强度决定。超过λ*，外推固定点退出裁剪安全区域，训练从格式保持转变为格式崩溃。在亚马逊时尚数据集上，三项预先注册测试（细网格悬崖区间、预算扩展测试和小裁剪交叉预测）均落在预测区间内。将λ控制在略低于λ*，1.7B参数的Qwen3学生模型能达到8B参数SFT基线的领域内性能，参数量仅为五分之一。性能提升主要源于格式遵循：解析输出的NDCG@1指标在λ变化时保持平稳，而解析有效性在预测边界处发生剧变。

大语言模型（LLMs）驱动各类应用，但云服务难以满足低延迟、间歇连接等需求，端侧部署又受算力与内存限制。协同智能作为一种新范式，通过分布在设备与云端的多个LLMs以自然语言协作，在计算、内存、通信和成本等多维约束下优化响应质量。该框架涵盖垂直设备-云协作和水平多智能体协作，并可结合为混合拓扑。研究还探讨协作学习，包括路由策略训练与LLMs合作能力开发，并指出资源异构下的扩展性及可信协同智能等开放挑战。

研究团队提出隐私感知智能体框架PAAC，以解决LLM智能体在云端推理与设备端隐私保护间的矛盾。该框架将规划器与执行器的分解与端云边界对齐：云端智能体仅对保留敏感信息推理角色但隐藏具体内容的类型化占位符进行推理；设备端智能体则负责识别敏感信息，并将执行结果提炼为关键发现。在严格隐私设置下的三项智能体基准测试中，PAAC在隐私与准确性的帕累托前沿上表现最优，平均准确率提升15-36%，平均信息泄露减少2-6倍。该框架在涵盖数学、科学与金融等10个领域的另外17个基准测试中也表现出一致的改进。

现有LoRA优化器面临因雅可比矩阵秩缺失导致的因子空间更新求解不唯一问题。本研究提出AdaPreLoRA方法，通过采用Adafactor对角Kronecker预条件器处理权重空间，并在因子空间进行闭式求解，以O((m+n)r)内存开销生成更新。该方法在H_t加权范数下，构造出最接近预条件权重空间方向的LoRA近似。在GPT-2、Mistral-7B、Qwen2-7B及扩散模型个性化任务上的实验表明，AdaPreLoRA在保持与LoRA优化器相当峰值GPU内存的同时，取得了与代表性LoRA优化器相当或更优的性能。

针对大型语言模型生成文本的水印技术易受语义不变攻击（如复述）的问题，研究团队提出了PASA。这是一种在潜在嵌入空间的语义簇上操作的、鲁棒且无失真的水印算法。其核心在于通过密钥和语义历史同步的共享随机性，在标记序列与辅助序列间构建分布依赖关系。理论分析证明该方法实现了检测准确性、鲁棒性与文本失真之间的根本性权衡。在多LLM和多种语义不变攻击下的评估表明，PASA即使在强复述攻击下仍保持高鲁棒性，同时维持文本质量，性能优于标准词汇空间基线方法。项目网页已公开。

针对智能体在任务规划与反应式执行间的割裂问题，MCP-Cosmos框架将生成式世界模型融入模型上下文协议生态。它通过统一MCP、世界模型与智能体三项技术，提出“自带世界模型”策略，使智能体能在潜在空间中模拟状态转移并预先优化计划。实验采用ReAct和SPIRAL两种策略，结合2种规划模型与3种世界模型，在超过20项MCP-Bench任务中验证。结果表明，该框架显著提升了工具成功率与参数准确性等关键指标，并引入“执行质量”新指标，为评估世界模型效能提供了新洞察。

研究发现，仅通过下一步预测训练的Mamba模型，其简单读出操作看似能恢复格兰杰因果结构，但经系统证伪基准检验后，该因果发现主张不成立。线性瓶颈效果相当或更好；在合成与真实基准上，调优的Lasso及经典因果发现方法均优于该瓶颈；其干预数据优势主要源于样本量混淆，残余优势仅在非标准干预下出现，且同样存在于经典格兰杰方法中。最终保留下来的仅是一个狭窄的表征结果，而可复用的五阶段证伪基准及其对照实验成为主要贡献。

研究团队基于Qwen2.5-3B-Instruct模型，在单张24GB消费级GPU上通过持续预训练与监督微调，开发出支持撒丁语的30亿参数模型LLiMba。训练语料包含1150万撒丁语词元及240万相关罗曼语文本。实验发现，持续预训练后模型在撒丁语困惑度降至6.76，并在所有FLORES-200翻译方向上超越基础模型。在五种微调配置中，rsLoRA r256在英译撒丁语任务中以28.5 BLEU值表现最佳。研究表明，适配器容量对低资源罗曼语适配的影响大于具体变体选择，且翻译指标虽能排序配置，但无法完全反映其定性行为的本质差异。

研究团队推出FORTIS基准，用于评估大语言模型智能体在技能调用中的过度权限问题。该基准从两个阶段测试模型：能否从大量重叠技能库中选择最小必要权限的技能，以及执行时是否超出技能允许的工具或操作范围。在十个前沿模型和三个领域的测试中，过度权限行为成为普遍现象。模型倾向于选择比任务所需更高权限的技能和工具，即使在最强模型中，两阶段的失败率依然很高。在用户描述不完整、便捷性引导和接近技能边界等常规交互条件下，问题尤为严重。结果表明，技能层非但未能约束智能体，反而成为当前系统中权限升级的主要来源。

本研究系统探索了在大规模预训练中对混合专家模型进行压缩的方法。关键发现包括：对预训练MoE模型进行结构化剪枝，在相同训练预算下始终优于从头训练目标架构；不同的一次性专家压缩方法经过大规模持续预训练后性能趋同，为此提出一种简单的部分保留专家合并策略以提升下游任务表现。结合知识蒸馏与语言建模损失优于单独使用蒸馏，特别是在知识密集型任务上，进一步提出的多令牌预测蒸馏方法能带来稳定增益。在训练令牌数相同的情况下，渐进式剪枝方案优于一次性压缩。综合这些方法，成功将Qwen3-Next-80A3B模型压缩至23A2B，同时保持了有竞争力的性能。

针对高分辨率图像输入导致视觉编码成为多模态大语言模型主要计算瓶颈的问题，本研究提出了两项关键改进。在编码策略上，基于切片的编码优于全局编码，能通过局部视图更好地保留细节。在压缩方法上，引入了视觉Transformer内部的早期压缩，在浅层减少令牌数量以大幅降低计算量。结合这两项技术构建的LLaVA-UHD v4方案，在涵盖文档理解、OCR和通用视觉问答的多样化基准测试中，视觉编码计算量降低了55.8%，同时达到甚至超越了基线模型性能，为高效高分辨率多模态大语言模型提供了实用的设计方向。

研究团队发布了MuSS，一个专为多镜头视频及主体视频生成设计的大规模双轨数据集。该数据集源自3000多部电影，明确支持复杂的蒙太奇转场和以主体为核心的叙事。其构建采用了一种渐进式标注流程，先确保局部镜头级准确性，再强化全局叙事连贯性，以消除时空文本-视频对齐冲突。数据集还引入了跨镜头匹配机制，从根本上解决了S2V生成中常见的“复制-粘贴”难题。同时提出的电影叙事基准包含视觉-逻辑驱动的评估范式和一个新颖的抗复制-粘贴方差指标，用于严格评估连续叙事能力和3D结构一致性。实验表明，当前基线模型难以处理连续叙事逻辑或退化为简单的2D贴图生成器，而基于MuSS增强的模型在叙事效果和跨镜头身份保持上达到了最先进水平。

CollabVR提出一种闭环协作框架，在步骤级别将视觉语言模型（VLM）与视频生成模型（VGM）耦合，以解决VGM在多步任务中的长视野漂移和中间片段错误累积问题。该框架中，VLM负责规划即时动作并检查VGM生成的视频片段，再将验证诊断直接融入后续提示以修正错误。在Gen-ViRe和VBVR-Bench基准测试中，该方法在同等计算条件下显著提升了开源与闭源VGM的性能，尤其在困难任务上增益最大，且能与推理微调的VGM进一步结合，实现性能叠加。

研究团队提出超群相对策略优化（SGRPO），以解决生物分子生成器因优化任务效用而导致生成候选分子过于集中的问题。该框架直接从集合层面构建多样性奖励：为每个条件采样候选分子超群，比较相同条件下的多样性，并通过留一法将群体奖励分配至单个生成轨迹，再与效用奖励结合。SGRPO不依赖特定生成器或评估指标，可灵活与不同GRPO风格方法集成。在多个生物分子设计任务上的评估表明，SGRPO能有效拓展效用-多样性的帕累托前沿，相对于基线方法取得更优的前沿水平指标，并有助于在训练后保持更广泛的生成分布覆盖。

为评估大语言模型的研究级数学能力，研究团队推出了包含439道全新原创题目的Soohak基准。该基准包含挑战和拒绝识别两个子集。在挑战子集上，Gemini-3-Pro、GPT-5和Claude-Opus-4.5的得分分别为30.4%、26.4%和10.4%，领先的开源模型均低于15%，显示模型能力仍有巨大提升空间。在拒绝识别子集上，所有模型得分均未超过50%，这揭示了模型在识别问题定义不清时主动暂停而非盲目作答的能力严重不足，成为一个新的关键优化目标。为防止数据污染，完整数据集将于2026年底公开。

RigidFormer是一种以物体为中心的Transformer模型，用于学习无网格刚体动力学并支持可控积分步长。该模型在物体级别推理，通过紧凑锚点推进物体，利用锚点-顶点池化融入局部顶点特征，保留接触几何而无需密集顶点交互。基于锚点的RoPE将几何注入注意力机制，尊重物体与锚点的无序性，并通过可微Kabsch对齐将更新投影到刚体流形以保持刚性。在标准基准测试中，它使用点云输入优于或匹配基于网格的基线，运行更快，能泛化到未见点分辨率和跨数据集，可扩展至200多个物体。初步研究还展示了扩展到指令条件化铰接体的潜力。

针对现有基于结构的药物设计方法依赖空结合口袋、忽略填充物信息的问题，本研究提出EDMolGPT新方法。该方法创新性地利用来自配体或溶剂的低分辨率电子密度作为生成条件，该密度可源于计算或冷冻电镜/X射线实验数据，能更真实地反映结合环境的构象灵活性。EDMolGPT采用仅解码器的自回归框架，直接从电子密度点云生成分子，有效减少了结构偏差并直接输出三维构象。在101个生物靶标上的评估验证了其有效性。

MLS-Bench是一个评估AI系统能否发明通用、可扩展机器学习方法的基准。它包含12个领域的140项任务，要求智能体改进ML系统的特定组件，并证明其改进能在受控环境中泛化与扩展。研究发现，当前智能体远未达到可靠超越人类设计方法的水平，且工程式调优比真正的方法发明更容易。测试阶段的规模扩展、自适应计算分配和额外上下文均无法单独解决核心瓶颈，关键在于智能体缺乏规划、验证和扩展主张所需的科学洞察力。该项目已建立社区平台并开源相关资源。

PianoCoRe 是一个大规模钢琴 MIDI 数据集，整合并精炼了多个主要开源钢琴语料库。该数据集包含 483 位作曲家创作的 5,625 首曲目，共计 250,046 次演奏，总时长 21,763 小时。它以分层子集形式发布，支持从大规模分析、预训练到具有音符级乐谱对齐的表现力演奏建模等多种应用。其对齐子集 PianoCoRe-A 提供了目前最大的开源对齐集合，包含 157,207 次演奏与 1,591 份乐谱的对应关系。研究同时贡献了一个用于检测损坏与类乐谱转录的 MIDI 质量分类器，以及一个能清理时间对齐错误并插值缺失音符的对齐优化流程 RAScoP。分析表明，优化流程降低了时间噪声并消除了速度异常值。基于 PianoCoRe 训练的表现力演奏生成模型，相较于基于原始或更小数据集训练的模型，对未见曲目展现出更强的鲁棒性。