开源生态

小红书联合北大、上交提出 HYPIC，这是首个在混合注意力大模型上实现位置无关缓存的服务系统。在 4 个生产级混合注意力模型、5 个工作负载上，HYPIC 将首 token 延迟（TTFT）平均降低 3.25 倍，同 SLO 下可持续 QPS 提升 1.66 倍，任务质量与完全重算仅相差 1.71 分。该系统通过缓存段累积转移算子实现线性层常数时间状态组合，并用缝合窗口修复全注意力层跨段对齐。

前 OpenAI 首席技术官米拉·穆拉蒂创立的思维机器实验室（Thinking Machines Lab）推出首个从零训练的多模态模型 Inkling，采用 MoE 架构，总参数 975B、激活参数 41B，最长上下文 1M tokens，已在 Hugging Face 和自有 API Thinker 开放权重。

xAI 开源的 Grok CLI 编码智能体代码库中包含一个用 Rust 编写的 Mermaid 图表示例终端渲染器 xai-grok-markdown/src/mermaid.rs。开发者通过 Claude Code for web (Fable 5) 将其编译为 WebAssembly，实现在浏览器中运行该工具。

Thinking Machines 发布 Apache-2.0 开源模型 Inkling，975B 参数、基于 45 万亿 token 从头训练，定位通用基础模型。模型权重免费，但通过其微调平台 Tinker 的定制化服务收费。该策略与 Slate Auto 售价 $24,950 的可定制皮卡类似，以低价通用基础产品吸引用户，通过增值定制实现商业化。

一个面向编程 AI 智能体的开源内存项目在 GitHub 发布，支持通过 SSH 同步记忆数据。该项目允许智能体跨会话保留上下文，无需依赖特定云服务，用户可自托管。代码已开源，便于开发者集成与定制。

xAI 已将 Grok Build 的源代码在 GitHub 上开源。Grok Build 是 SpaceXAI 的编程智能体与终端用户界面（TUI），开源后用户可自行编译并完全本地运行，指向本地推理引擎并通过 config.toml 配置。

作者基于 API 版 Fable5 和 Codex 开发了开源 TODO Skill“阿福”，用于将收件箱中的待办资料自动转为 Markdown 任务卡，识别信息不完整项（如视频链接需通过 yt-dlp 和本地 Whisper 提取字幕），并支持批量排期、AI 分组合并、拖拽调整周视图及同步到 Mac 日历或飞书日历。项目已开源在 GitHub，安装仅需一条命令。

Juggler 是一款开源 GUI 编程智能体，提供可视化工作台，支持可检查的工具调用、分支线程和可编辑上下文。会话以树状结构组织，而非线性聊天记录，用户可创建子线程、回溯、比较和编辑。所有关键信息以 Finder 风格 Miller 列展示。Juggler 支持本地、远程或同时运行，桌面应用与浏览器可连接同一会话。模型支持包括 Claude Code、OpenAI、Gemini、Ollama、OpenRouter、Z.AI、Deepseek 等。后端使用 Go 和 Wails，UI 为 HTML/JS。

Google 发布实验性开源模型 DiffusionGemma，采用文本扩散技术并行生成 256 token 块，推理速度最高提升 4 倍。该 26B MoE 模型仅激活 3.8B 参数，量化后适配 18GB VRAM 消费级 GPU，在单张 H100 上达 1000+ tokens/s。

小红书以 3 人 3 天推出内测版本，约一个月实现全员覆盖，核心是 AI Native 项目运作机制。技术选型基于 OpenClaw 二次开发，通过 Seal AI Zone 隔离集群与 NEX 沙箱解决安全，Self-GC 使输入 Token 下降 10%~15%、Auto 模式路由使成本降低 69%，并自研 LLM Wiki 三层记忆架构与 Skill Hub 生态。

腾讯混元团队为旗舰模型 Hy3（295B 参数）推出量化版本。1bit 版本（IQ1_M）将权重从 598 GB 压缩至 85.5 GiB，缩小 6.7 倍，单张 96GB 推理显卡即可部署；4bit 版本（Q4_K_M）体积 169.9 GiB，两张显卡可承载。量化版在 Agent、多语言代码、工具调用、长文理解等任务上表现接近满血模型。团队还提供 GPTQ Int4 版本，支持 vLLM 部署。配合 MTP 投机解码，1bit 版本解码速度提升约 50%，4bit 版本提升近 60%。所有版本已开源并打包为 GGUF 格式，适配 llama.cpp 生态。

腾讯混元将295B参数的Hy3旗舰模型权重量化至1bit与4bit并打包成GGUF，配合llama.cpp生态，使原本需多卡集群部署的模型最少一张96GB推理显卡即可运行。1bit版将权重从598GB压缩至85.5GiB，4bit版体积169.9GiB，两张显卡可承载；量化版在长文理解、Agent与代码任务上贴近满血效果，开启MTP后解码速度提升约50%-60%。

Google AI 工程师指出，使用合成随机向量数据测试向量搜索性能可能导致误导性结果。对于 HNSW 索引，合成数据构建耗时 6,601,789 毫秒，而真实数据仅需 4,174,196 毫秒，速度快 1.5 倍，因为随机向量缺乏自然聚类结构，使图索引的节点连接更难建立。

Boogu-Image-0.1 系列开源统一多模态理解与生成模型发布，包含 Base、Turbo、Edit 和 Edit-Turbo 四个变体，支持高质量文生图、快速推理、指令编辑及中英双语文本渲染。

德国AI协会协调的研究联盟发布开源大语言模型Soofi S 30B-A3B。该模型总参数量316亿，每个token仅激活约32亿参数，采用Mamba-2与标准注意力层混合的MoE架构。模型完全在德国电信慕尼黑工业AI云上训练，训练数据中德语占比从第一阶段的7.2%提升至第二阶段的15.3%。在基准测试中，Soofi S在所有完全开源模型中取得英语和德语综合最高分，超越OLMo 3 32B和Apertus 70B。在HumanEval上得分73.8%，MBPP得分70.2，德语版MBPP得分84.2。上下文窗口支持最高100万token，在4万token长度下，生成吞吐量约为同规模稠密模型的8倍。模型权重已开源。