Jim Fan@DrJimFan

Danfei Xu: Introducing EgoVerse: an ecosystem for robot learning from egocentric human data. Built and tested by 4 research labs + ...

Google Research 发布自监督地理空间框架 S2Vec，利用 S2 Geometry 将地球表面划分为分层单元格，把建筑、道路等特征栅格化为多层图像，通过掩码自编码器（MAE）学习通用嵌入向量。无需人工标注即可预测人口密度、房价等社会经济指标，在地理外推任务中表现优于图像基线模型，但树冠覆盖和海拔等环境预测任务仍需改进。

针对使用强模型合成数据微调推理模型时出现的性能下降问题，本文提出师生协作数据合成框架TESSY。该框架通过让师生模型交替生成风格与非风格标记，使合成数据兼具教师的高级推理能力与学生风格一致性。实验以GPT-OSS-120B为教师、Qwen3-8B为学生，在代码生成任务中，传统方法使LiveCodeBench-Pro和OJBench性能分别下降3.25%和10.02%，而TESSY实现11.25%和6.68%的显著提升。

Mistral AI推出企业级AI模型构建系统Forge，该系统允许企业利用内部专有知识（如工程标准、代码库、操作流程）训练定制化的前沿模型，以弥补通用AI与企业特定需求之间的差距。Forge支持从预训练到强化学习的完整模型生命周期，并与ASML、爱立信等领先机构合作，用于训练支撑其复杂系统的专有模型。该系统强调控制与战略自主性，确保模型完全由企业掌控，旨在打造能理解内部术语、遵循工作流程并可靠集成到运营中的智能体。

开源RL框架Miles正式支持ROCm，可在AMD Instinct MI300/350 GPU上原生运行大规模语言模型后训练。该框架采用解耦架构分离rollout生成与模型优化，针对RL工作负载中占比70-90%的推理场景优化。在单节点8卡MI300X上训练Qwen3-30B-A3B的实测显示，rollout吞吐达1.1k-1.3k tok/GPU/s，AIME准确率从66.5%提升至72.9%。现提供预构建容器，支持GRPO、Megatron-LM和FSDP后端。

Google Research与NHS合作在Nature Cancer发表两项AIMS研究，评估AI乳腺癌检测系统。回顾性分析11.6万例乳腺X光片显示，AI敏感性显著高于原始第一读者且不降低特异性，癌症检出率从7.54升至9.33/1000，检出25%间隔癌；前瞻性研究验证技术整合可行性。第二项研究进一步测试AI替代双读流程中第二读者的端到端效果。研究为AI辅助筛查提供证据，有望缓解放射科医生30%-40%短缺压力。

两项耗资巨大的AI实验相继失败，为"规模扩张并非实现突破的唯一路径"提供了新的佐证。这些结果表明，单纯依靠增加算力、数据和模型参数的传统Scaling策略可能已触及瓶颈，行业需要探索新的技术范式，而非一味追求规模扩张。

伯克利人工智能研究所提出 SPEX 与 ProxySPEX 算法，通过信号处理与编码理论实现大语言模型关键交互作用的高效识别。该方法基于" influential interactions 具有稀疏性与低阶性"的核心观察，将指数级搜索问题转化为可解的稀疏恢复问题，以极少的消融次数定位驱动模型输出的关键特征组合与内部组件依赖，突破传统方法在计算规模上的限制。

Google Research在Flood Hub推出城市山洪预测服务，采用新型AI方法Groundsource从新闻报道中提取历史洪水数据作为训练集，结合全球天气模型，可为城市地区提供最长24小时预警。该系统以20x20公里分辨率运行，无需依赖高分辨率水文地图或本地雷达，旨在解决全球南方国家山洪预警基础设施不足的问题，弥补传统 riverine 洪水预测无法覆盖快速 onset 灾害的空白。

Lilian Weng@lilianweng

Thinking Machines: We are partnering with @nvidia to power our frontier model training and platforms delivering customizable AI. https://th...

Olmo 发布采用混合架构的最新模型，聚焦开源后训练工具的前沿技术探索。该模型代表了大语言模型架构的新进展，围绕后训练阶段的优化方法与工具创新展开讨论，为开源社区提供了模型训练与架构演进的最新实践参考。相关技术动向揭示了 LLM 开发流程中后训练环节的关键趋势。

Saining Xie@sainingxie

Peter Tong: Train Beyond Language. We bet on the visual world as the critical next step alongside and beyond language modeling. So, ...

阶跃星辰将 Step 3.5 Flash 的预训练、中训练和训练框架全部开源，支持开发者进行更深度模型定制，以打造专属 AI 智能体。

为突破“端到端”论文生成中出版级科学示意图（如导读图）的制作瓶颈，研究团队构建了DiagramBank数据集。该数据集通过自动化流程从顶级出版物中筛选出89,422张示意图，并利用CLIP过滤器区分示意图与标准图表。每个实例均附有从摘要到图文对照的丰富上下文信息，支持多粒度检索。团队同步开源了检索增强生成代码库，演示如何基于范例合成导读图，数据集与代码均已公开。

Hugging Face 宣布通过其平台提供免费 AI 模型训练服务，用户可结合 Unsloth 高效训练工具与 Hugging Face Jobs 功能，无需支付费用。该举措旨在降低 AI 开发门槛，推动开源开放科学，促进人工智能技术的民主化进程。核心变化在于将原先需付费或自建基础设施的训练流程，整合为平台内可直接调用的免费资源，显著减少开发者的时间和经济成本。

MiniMax 解密其 Agent RL 架构，该架构实现了 40 倍训练加速，并打破了训练效率、模型性能与推理能力之间的“不可能三角”。

腾讯混元在强化学习领域的新研究聚焦 RLVR 模型调优，目标是使调优过程从经验性的“玄学”转向更具可解释性和可复现性的科学范式。

提出一种稳定 RLVR 训练的新方法，采用 Token 级梯度诊断技术精准定位异常梯度来源，结合逐层梯度裁剪（Layerwise Clipping）对不同网络层实施差异化约束，有效抑制训练过程中的梯度爆炸与策略震荡，提升强化学习训练的稳定性与收敛效率。

上下文学习（in-context learning）的实际效果存在明显局限。研究表明，大语言模型难以从提示示例中真正提取任务规则，往往依赖表面模式匹配而非深层理解。单纯增加示例数量无法线性提升性能，模型容易受到示例顺序和分布的影响，需要重新评估该能力的实际边界。

提供的正文内容为 PDF 二进制流数据及乱码，无法提取有效信息（如具体方法、实验指标或模型发布细节），因此无法撰写准确摘要。请提供可读的文本内容（如论文摘要或正文段落），以便提取关键信息点完成摘要撰写。

SGLang RL团队联合多家机构开源INT4量化感知训练端到端方案。受Kimi K2启发，训练阶段采用伪量化，推理阶段使用W4A16（INT4权重、BF16激活）真实量化，实现与BF16全精度相当的稳定性。该方案将约1TB模型压缩至单张H200（141GB）GPU即可完成rollout，彻底消除跨节点通信瓶颈，显著提升推理效率，为大规模模型训练提供高性能、低成本的开源实践参考。

Saining Xie@sainingxie

Peter Tong: We have been training with TPUs in academia for two years now (huge thanks to Google TRC!). Works like Cambrian-1, Cambr...

作者发布2026年1月10日阅读清单，涵盖非线性动力学与混沌理论、探讨AI自动化的《Machines of Loving Grace》、Neuralink联合创始人Max Hodak关于意识的理论假说，以及神经网络训练过程中产生精美分形图案的现象。内容横跨复杂系统、神经科学与机器学习可视化等多个前沿领域。

研究团队提出专为网页文档设计的 W-RAC 分块框架，将文本提取与语义分块规划解耦，以结构化 ID 寻址单元管理内容，并仅利用 LLM 执行检索感知分组决策而非文本生成。该方法在消除幻觉风险、提升系统可观测性的同时，将分块相关 LLM 成本降低一个数量级，且保持或优于传统方法的检索性能。