本文研究了大语言模型记忆系统中错误追踪与归因的新问题。我们提出了MemTrace框架，它将记忆管线转化为可执行的记忆演化图，以实现操作信息流的细粒度追踪。我们构建了MemTraceBench基准，数据来自Long-Context、RAG、Mem0和EverMemOS等代表性系统，用于系统研究记忆失效模式。此外，我们引入了一种自动归因方法，通过迭代追踪操作子图来定位失败根因。分析表明，记忆失败具有系统性，源于信息丢失与检索错位等操作级问题。利用这些细粒度归因信号指导下游提示词优化，可构建一个自动纠错的闭环系统，将端到端任务性能最高提升7.62%。

本文介绍了embeddingmagibu-200m，一款专注于土耳其语的句子嵌入模型。它能生成768维L2归一化向量，支持8,192 token的上下文窗口。该模型不进行完整预训练，而是采用三阶段适配流水线训练：构建优化的土耳其语分词器、克隆并适配教师模型权重，以及使用预计算向量进行离线知识蒸馏。学生模型约200M参数，在单个GPU上训练约4小时，成本为5-20美元。它在STSbTR基准上性能超越了作为教师的300M参数模型，并在TR-MTEB的26个任务中排名靠前，实现了有竞争力的性价比。所有模型权重、分词器及训练工具均已开源。

检索增强生成系统处理多来源语料时，可能因检索来源不同而对同一问题给出不同答案，这是一种现有评估体系无法诊断的失效模式。研究团队在医疗患者教育场景发布了三个工具：基准TransplantQA，为真实患者问题提供基于多机构手册的参考答案；分层检索与审计策略HERO-QA；以及一个基于经验证的5标签分类体系的结构化评估器，用于评分来源间关系。大规模审计显示，更优的检索能力所暴露出的来源分歧远高于此前估计。该框架具有领域通用性。

介绍如何使用基于 Qwen3、参数规模为 4B 的交叉编码器重排器 Zerank-2 Reranker 构建检索-重排流水线。该流水线先通过快速双编码器检索候选文档，再由 Zerank-2 进行重排以提升检索精度。

本研究探讨了密集检索器位置偏见的成因，聚焦于训练数据中证据位置分布的影响。通过构造证据位于文档开头、中间或结尾的合成训练集，并对8种架构的预训练模型进行微调，实验发现：偏斜的训练分布会使模型偏好相应位置的信息。在位置敏感的评测基准上，位置平衡训练可降低57%–87%的位置敏感性，且检索性能具有竞争力。表示层分析表明，微调能重塑模型的位置偏好，但部分模型中预训练或架构固有的倾向仍会持续。该研究指出训练数据的位置分布是影响检索位置偏见的主要可控因素，平衡数据编排是一种有效的缓解策略。

为解决垂直领域大语言模型缺乏复杂任务导向对话数据的瓶颈，STREAM框架提出一种从公开流媒体（直播与短视频）中规模化合成高质量服务对话的新方法。该框架从嘈杂的流媒体中挖掘真实交互信号，结合角色人物构建与对话蓝图设计，并利用检索增强生成（RAG）技术支持知识响应。基于此发布的StreamDial数据集覆盖汽车、餐饮与酒店三大领域，包含87,498个对话会话与1,497,320轮对话。评估表明，该数据集提升了对话内在质量，并在多个骨干模型上改善了对话状态跟踪性能；在Qwen3-8B上的多语言迁移实验也取得了积极结果。

Google Research的TurboQuant算法已通过Turbovec项目应用于向量搜索领域。该工具以Rust语言构建，提供Python绑定接口，可直接集成到RAG流水线中。Turbovec实现了16倍的向量压缩率，同时无需进行任何码本训练，显著降低了部署和使用门槛。

针对学术研究中大语言模型（LLM）存在幻觉的问题，研究者将抽取式问答系统VerbatimRAG应用于ACL Anthology论文集，实现用户查询到文档原文片段的直接映射。团队构建了一个新基准数据集，由NLP研究人员基于ScIRGen方法生成的合成用户查询进行人工标注，用于训练和评估多种抽取式模型。其中，一个参数规模为150M的ModernBERT分类器，在基于ScIRGen方法生成的查询和论文片段上进行训练后，在词级F1分数上达到53.6，超越了被评估的最强LLM抽取器（48.7）。

LongMINT是一个评估智能体在信息不断更新、存在大量干扰的长周期环境中记忆能力的新基准。它包含平均13.88万token（最长180万token）的长上下文，涵盖状态追踪、多轮对话、维基百科修订和GitHub提交四个领域，并设置了单目标检索与多目标聚合两类问题。对7个代表性系统的测试显示，平均准确率仅为27.9%，尤其在综合多证据推理的任务上表现差。分析表明，性能主要受限于检索和记忆构建能力，且系统难以有效处理后续信息对早期事实的更新与干扰。

针对大语言模型在使用长上下文前缀时面临影响力衰减和计算开销大这两个问题，本文提出了一种名为“注意力状态记忆”的无训练方法。该方法将上下文前缀外化为一个轻量级、基于查找的预计算记忆库，存储了前缀与查询词之间的注意力状态。实验表明，在 LLaMA-3.1-8B 上，该方法在 1K-8K 记忆预算下提升了准确率，并将注意力计算延迟降低了 1.36 倍。同时，它在 NBA 基准测试中，仅用全注意力 RAG 20% 的内存开销，便超越了其性能表现。

本文针对成对排序提示（PRP）框架中LLM生成成对偏好判断时存在的噪声、顺序敏感性和不可传递性问题，指出传统排序算法在这些条件下性能受限。作者将PRP重排问题重构为从噪声成对比较中主动学习的过程，提出主动排序器作为即插即用的替代方案，在调用次数受限场景下显著提升NDCG@10指标。此外，引入随机方向预言机机制，每次比较仅需一次LLM调用，将系统位置偏差转化为零均值噪声，实现无偏聚合排序并降低计算成本。

PersonalAI 2.0（PAI-2）是一个集成外部知识图谱的新型框架，旨在提升大语言模型系统的性能。它通过动态多阶段查询处理流程，克服了现有图检索增强生成技术的局限，能基于实体、图节点和线索查询进行自适应迭代搜索。在六个基准数据集上的评估表明，其生成答案的事实正确性平均提升4%，有效降低了幻觉。图谱遍历算法相比标准检索器平均提升6%，而启用的搜索规划机制更带来了18%的性能提升。此外，PAI-2在MINE-1基准上取得了89%的信息保留分数，达到当前最优水平，且仅使用7-14B参数的模型，展现了作为下一代个性化AI基础模型的潜力。

传统检索流程将候选生成与重排序分阶段优化，存在效用不对齐问题。大语言模型虽能单步完成两者，但其组合输出空间面临反馈模糊的优化难题。为此，本研究提出F-GRPO统一框架，在单一自回归过程中执行生成与排序，并通过因子化组相对策略优化进行端到端训练。该方法将策略分解为生成与排序两部分，共享同一LLM主干，并联合使用顺序无关的覆盖度奖励和位置感知的效用奖励进行训练。在序列推荐和多跳问答基准测试中，F-GRPO在Top排名性能上超越了相关基线及监督学习方案，并与强大的零样本重排序模型保持竞争力，且无需改变推理架构。

研究为大型语言模型的上下文优化器引入维基百科搜索与浏览器工具，使其能够主动获取外部信息。单纯在标准流程中添加工具会降低性能，但配合基于搜索的训练流程——维护并修剪多个候选上下文——后，模型在多个领域实现显著提升。该方法在低资源翻译、健康场景以及强推理任务上均表现一致且高效，同时具备数据利用率高、超参数鲁棒性强等特点，所生成的文本上下文能很好地迁移至不同模型。

研究指出，为大语言模型微调生成式检索任务会迅速导致其通用语言推理能力的灾难性遗忘，且遗忘程度与微调后和原始模型参数的偏离距离相关。为此，研究者提出了ORBIT方法。该方法主动追踪微调权重与初始权重之间的距离，一旦超过预设阈值，便采用权重平均策略来约束模型在微调过程中的漂移。实验表明，ORBIT在文本和检索性能上均优于常见的持续学习基线及同样采用权重平均的正则化方法，有效缓解了基础能力的遗忘问题。

针对LLM智能体长期记忆系统中检索机制固定不变的问题，研究团队提出自进化记忆架构EvolveMem。该架构将完整的检索配置（如评分函数、融合策略）构建为结构化行动空间，由一个LLM驱动的诊断模块进行闭环优化。系统通过AutoResearch过程自主运行：诊断模块分析失败日志、定位根因并提出配置调整，再由受保护的元分析器在防性能衰退和探索停滞的保障下应用调整。实验表明，EvolveMem在LoCoMo和MemBench基准上显著优于基线，进化后的配置能跨基准正向迁移，表明系统捕捉到了通用的检索原则。代码已开源。

针对角色扮演代理长期一致性记忆的需求，本研究提出基于搜索的记忆框架BOOKMARKS。它通过主动初始化、维护和更新与当前任务相关的“书签”来替代传统的循环摘要方法，避免重要细节丢失。每个书签被构建为故事情节特定时间点上一个问题的答案，支持概念、行为和状态三种搜索类型，并采用高效同步机制更新答案以供未来复用。相比基线方法，该框架兼具主动锚定任务细节和被动更新以减少计算开销的优势。在涵盖16个作品、85个角色的测试中，其性能显著优于现有记忆基线。

DeepRefine 是一种基于大语言模型的通用推理模型，旨在通过与知识库进行多轮交互，精炼其中存在的缺陷（如证据缺失、断言置信度低或指代模糊等问题），从而提升其在开放域、知识密集型下游任务中的适用性。该模型通过溯因诊断定位缺陷，并执行针对性操作以增量更新知识库。为在没有黄金参考的情况下优化精炼策略，研究引入了“超越草案增益”奖励，并采用强化学习进行端到端训练。大量实验表明，该方法能在多个强基线模型上带来一致的下游性能提升。

腾讯云QClaw正式上线“文件空间”功能，通过一次授权即可一站式打通用户的本地文件、腾讯文档和ima知识库，实现了深度集成与稳定的权限管控。用户可在QClaw内直接操作腾讯文档内容，勾选多份文件交由AI处理，AI能生成可协作的活化文档并支持团队协同编辑。同时，用户可直接调取ima知识库文件进行分析，AI生成的方案也能一键保存回知识库，便于后续使用。

Gemini API 的文件搜索功能现已升级为多模态版本。此次更新允许开发者上传并搜索图像、PDF、PPT 和 Word 等多种格式的文件，突破了此前仅支持文本文件的限制。该功能基于检索增强生成技术，能同时处理文本和视觉信息，从上传的文档中提取关键内容以生成更准确的回答。这一变化旨在帮助开发者更高效地构建能理解和分析复杂多模态数据的应用程序。

研究提出“心智景观激活签名”概念，通过子模优化选取高层概念以覆盖被激活的上下文空间，并可借助工作记忆进行轻量迭代更新。该压缩表示能近似全局激活状态对下游处理的影响，同时保持计算可行性。将MiA-Signature集成至RAG与智能体系统中，在多项长上下文理解任务上实现了持续的性能提升。

现有信息检索评估主要关注语义相关性，忽视了检索结果语言对用户实用性的影响。为解决此问题，研究提出MLAIRE评估协议。该协议通过构建跨语言平行段落对照集合，能够同时测量跨语言语义检索准确率与查询语言偏好度，并引入语言偏好率、Lang-nDCG等指标进行四类分解。对31种检索器的评估显示，标准指标会掩盖不同检索器的行为差异：语义能力强的检索器可能返回非查询语言内容，而语言偏好强的检索器可能牺牲语义相关性。该协议为评估多语言检索系统的真实效用提供了新维度。

研究团队提出INTRA框架，使基于注意力的编码器-解码器模型能够直接从自身内部表征中检索信息，无需依赖外部检索器。该方法利用解码器的注意力查询对预编码的证据块进行评分，并将其直接复用为生成上下文，从而统一了检索与生成过程，避免了传统RAG流程中模块不匹配的问题。在问答基准测试中，INTRA在证据召回率和答案质量上均优于强工程化检索流程。结果表明，基于注意力的模型本身已具备可被激发的内在检索机制。

推理密集型检索旨在为下游推理提供证据支持，而非仅匹配主题相似性，这对需要迭代搜索与证据合成的智能体搜索系统至关重要。针对现有评估与训练的不足，研究发布了BRIGHT-Pro专家标注基准，为每个查询扩展了多维度黄金证据，并在静态与智能体搜索两种协议下评估检索器。同时，研究构建了RTriever-Synth合成语料库，通过生成互补正例和正例条件硬负例，对Qwen3-Embedding-4B进行LoRA微调得到RTriever-4B。实验表明，维度感知与智能体评估能揭示标准指标所掩盖的检索行为，而RTriever-4B相比其基础模型取得了显著提升。

安全工程师仅花费12美元注册域名并编辑维基百科词条，虚构了一场纸牌游戏的2025年世界冠军赛事。多款具备联网搜索功能的AI聊天机器人将此虚假信息当作事实传播，暴露了AI在检索增强生成（RAG）中的核心漏洞：模型无条件信任网络检索结果，无法甄别信息来源真伪。此次低成本攻击揭示了AI在信息可信度与数据溯源方面存在重大隐患，涉及检索层误导、训练语料污染及智能体被操控执行恶意操作等多重风险。

检索增强生成（RAG）方法通过筛选相关上下文提升大型语言模型性能，但传统单步检索难以应对复杂问题。现有多步检索方法通常微调小型LLMs，资源消耗大且无法利用更大模型。本研究提出Q-RAG，采用强化学习微调嵌入器模型以实现多步检索，避免了资源密集问题。该方法在开放域问答任务中提供资源高效的替代方案，并在长上下文基准测试BabiLong和RULER上取得最先进结果，支持高达1000万词元的上下文。代码已开源。

传统检索系统依赖固定的相似性接口，在智能体搜索中易成为瓶颈，难以支持精确约束、多步推理与假设细化。研究提出直接语料库交互方法，使智能体无需嵌入模型或向量索引，直接通过通用终端工具搜索原始语料。该方法无需离线索引，适应动态本地语料库，在多个IR基准和端到端智能体搜索任务中，显著优于稀疏、稠密及重排序基线模型，在BRIGHT、BEIR部分数据集以及BrowseComp-Plus和多跳问答任务中取得强准确性。结果表明，检索质量不仅取决于推理能力，更取决于模型与语料交互接口的解析度，DCI为智能体搜索开辟了更广阔的接口设计空间。

针对迭代检索增强生成在解析文本时存在的证据定位粗粒度与视觉语义丢失问题，本研究提出了“证据链”框架。该框架与检索器无关，直接利用视觉语言模型对检索到的文档截图进行推理，无需针对特定格式进行解析，并能输出精确的边界框以可视化完整推理链条。在Wiki-CoE和SlideVQA两个基准上的实验表明，经微调的Qwen3-VL-8B-Instruct模型表现稳健，在需要视觉布局理解的场景中显著优于基于文本的基线方法，为像素级可解释的iRAG提供了一个通用解决方案。代码已开源。

研究团队构建了覆盖10个临床领域、包含3600多项任务的Gymnasium兼容医疗AI训练环境。分析发现，现有多轮智能体强化学习方法易退化为冗长单轮独白，工具使用频率下降，问题源于稀疏最终奖励与连续临床轨迹的错配。为此，研究提出“轮次截断策略蒸馏”自蒸馏框架，利用梯度冻结的EMA教师模型在每轮对话提供密集的KL正则化。该方法在18项基准测试的10项中取得最佳性能，较非强化学习基线平均提升3.9个百分点，实现了更快早期收敛、可控响应长度和持续的多轮工具使用。

BlenderRAG是一个检索增强生成系统，能够从自然语言描述自动生成可执行的Blender代码。该系统基于一个包含500个经专家验证的多模态样本（文本、代码、图像）的数据集，覆盖50种物体类别。在代码生成过程中，系统通过检索语义相似的示例来引导大语言模型，从而将四大前沿模型的代码编译成功率从40.8%显著提升至70.0%，并将语义对齐度（CLIP相似度）从0.41提高到0.77。该方法无需对模型进行微调或使用专用硬件，可立即部署使用。相关数据集和代码已在GitHub开源。

针对现有树状检索增强生成方法在应对跨文档多跳查询时面临的分布适应性差、结构隔离和抽象粒度粗糙三大挑战，研究者提出了Ψ-RAG框架。该框架包含两个核心组件：一是通过“合并与坍缩”迭代过程构建、无需先验分布假设的分层抽象树索引；二是配备重组查询和智能体驱动混合检索器的多粒度检索代理。Ψ-RAG支持从词元级问答到文档级摘要的多样化任务，在跨文档多跳问答基准测试中，其平均F1分数显著优于现有先进方法。相关代码已开源。