Topic · 主题全部主题 →

开源生态

开源模型、框架与仓库动态:权重开放、社区项目爆火、开源与闭源的力量消长。

4,260条收录
621条精选

精选归档 · 第 6 页

101120 条 · 共 621

7月29日

星期三 · 2 条
10:56
Hacker News 热门(buzzing.cc 中文翻译)精选
AI 评分 76/100
在 M1 Max 上运行 2.8T 参数的 Kimi K3:Deltafin 项目实现 0.0687 token/s 推理

Deltafin 项目成功在 64 GB M1 Max 上运行了 2.8T 参数的 MoE 模型 Kimi K3,当前中位推理速度为 0.0687 token/s(14.6 秒/token)。完整安装需约 1.7 TB 本地磁盘,流式模式仅需 215 GB 但推理速度降至 3 分钟以上/token。项目提供 OpenAI 兼容 API 服务器,支持聊天和代码补全,但建议客户端超时设为小时级别。


推荐理由:这是个在 M1 Max 上跑 2.8T MoE 的工程 hack,把不可能变成可能,虽然慢得只有聊天室节奏,但玩法足够硬核,玩硬件的看完会想开 issue 贡献数据。

7月28日

星期二 · 4 条
23:26
Hacker News 热门(buzzing.cc 中文翻译)精选
AI 评分 76/100
Kimi Linear:一种表现力强且高效的注意力架构

月之暗面推出 Kimi Linear,一种混合线性注意力架构,首次在短上下文、长上下文和强化学习场景下全面超越全注意力机制。其 3B 激活参数模型在所有评估任务上显著优于全 MLA,同时将 KV cache 使用量降低最多 75%,并在 1M 上下文下实现最高 6 倍解码吞吐量。月之暗面已开源 KDA 内核、vLLM 实现及模型权重。


推荐理由:Kimi Linear首次在公平对比中证明了线性注意力可以全面超越full attention,KV缓存降低75%,解码吞吐量提升6倍,所有做长上下文和RL团队的必读论文。
16:58
MarkTechPost(RSS)精选
AI 评分 71/100
Microsoft 发布 MAI-Cyber-1-Flash:5B 活跃参数的网络安全模型,驱动 MDASH 在 CyberGym 上达到 95.95%

Microsoft 发布 MAI-Cyber-1-Flash,一款 137B 总参数(5B 活跃参数)、256k 上下文窗口的稀疏 MoE 网络安全模型,是 MAI-Code-1-Flash 的微调版本。

另有 4 家信源报道X:Satya Nadella (@satyanadella)IT之家(RSS)X:Mustafa Suleyman(Microsoft AI CEO) (@mustafasuleyman)TechCrunch:AI(RSS)
推荐理由:微软这个安全模型把漏洞挖掘系统推到95.95%,关键是90%任务由5B模型完成成本砍半,路由设计比模型本身更值得关注,做漏洞挖掘的可以马上跑起来试试。
13:25
Hacker News 热门(buzzing.cc 中文翻译)精选
AI 评分 71/100
FeyNoBg 发布:开源自动背景去除模型,在四项基准上达到 SOTA

Feyn Labs 推出 FeyNoBg,一个用于自动背景去除的 SOTA 模型。它在八个基准测试中的四项上取得最佳 S-measure 分数,其余四项与领先者差距在 2% 以内。该模型基于 BiRefNet 架构,参数量从 222M 扩展至 263M,同时开源了训练库 NoBg,模型和代码分别可在 Hugging Face 和 GitHub 获取。


推荐理由:FeyNoBg 在多个背景去除基准上达到或接近最佳,还开源了训练库,做图像处理的产品可以直接集成,是个实在的工具发布。

7月27日

星期一 · 6 条
23:35
公众号:月之暗面(Kimi)精选
AI 评分 81/100
Kimi K3 开放日:模型权重、技术报告和关键 Infra 技术同步开放

Kimi 发布 K3 模型权重与技术报告,并开源 MoonEP、FlashKDA 和 AgentEnv 三项关键 Infra 技术。K3 是 2.8 万亿参数的 MoE 模型,支持原生视觉与 100 万 token 上下文,参数规模约为 K2.5 的 3 倍,规模化效率提升 2.5 倍。

另有 1 家信源报道公众号:数字生命卡兹克
推荐理由:权重开源伴随技术报告公开训练细节,为研究机构直接复现和改造千亿级MoE模型提供了完整路径,也降低企业自部署门槛。
23:31
公众号:月之暗面(Kimi)精选
AI 评分 85/100
Kimi K3 开放日:模型权重、技术报告和关键 Infra 技术同步开放

月之暗面发布 2.8 万亿参数的混合专家模型 Kimi K3,支持原生视觉理解和 100 万 token 上下文窗口。其规模化效率较 Kimi K2.5 提升 2.5 倍,并同步开源模型权重、技术报告及 MoonEP、FlashKDA、AgentEnv 三项 Infra 技术。

另有 14 家信源报道X:Kimi.ai (@Kimi_Moonshot)IT之家(RSS)The Decoder:AI News(RSS)X:阿易 AI Notes (@AYi_AInotes)X:Rohan Paul (@rohanpaul_ai)X:Artificial Analysis (@ArtificialAnlys)X:硅基流动 SiliconFlow (@SiliconFlowAI)X:AK (@_akhaliq)X:Elvis Saravia (@omarsar0, DAIR.AI)LMSYS:Blog(Chatbot Arena 团队)公众号:数字生命卡兹克HuggingFace Daily Papers(社区热门论文)X:Kim (@kimmonismus)The Verge:AI(RSS)
推荐理由:Kimi K3 的完全开放是一个明确信号,月之暗面把最核心的模型权重和技术细节全部公开,国内开发者从此有了媲美国际顶尖开源的底座。虽然部署门槛不低,但开放本身推动了生态发展。
23:31
Kimi.ai@Kimi_Moonshot精选
AI 评分 81/100
Kimi K3 开源:2.8T MoE 模型与技术报告Releasing the model weights and technical report of Kimi K3.Kimi K3 is our most capable model: a 2.8T MoE model with native visual understanding and a 1M-token context window.New model architecture: 2.5x the intelligence per unit of compute, not just more params.Alongside Kimi K3, we're opening up more of the stack behind it — high-performance attention kernels, MoE communication library, and infrastructure for running agent environments at scale.Model weights: http://huggingface.co/moonshotai/Kimi-K3 Tech report: http://github.com/MoonshotAI/Kimi-K3/blob/master/k3_tech_report.pdf Tech blog: http://kimi.com/blog/kimi-k3Kimi 发布其最强模型 Kimi K3,这是一个 2.8T 参数的 MoE 模型,具备原生视觉理解和 1M token 上下文窗口。新架构实现了每单位计算 2.5 倍的智能提升。除模型权重外,Kimi 还开源了高性能注意力内核、MoE 通信库及大规模智能体运行环境基础设施。
另有 14 家信源报道X:Kimi.ai (@Kimi_Moonshot)IT之家(RSS)The Decoder:AI News(RSS)X:阿易 AI Notes (@AYi_AInotes)X:Rohan Paul (@rohanpaul_ai)X:Artificial Analysis (@ArtificialAnlys)X:硅基流动 SiliconFlow (@SiliconFlowAI)X:AK (@_akhaliq)X:Elvis Saravia (@omarsar0, DAIR.AI)LMSYS:Blog(Chatbot Arena 团队)公众号:数字生命卡兹克HuggingFace Daily Papers(社区热门论文)X:Kim (@kimmonismus)The Verge:AI(RSS)
推荐理由:Kimi K3 这次开源很彻底,连注意力内核和 MoE 通信库都给了,对想深入研究 MoE 架构的团队是个宝库。
17:00
NVIDIA Blog(RSS)精选
AI 评分 61/100
NVIDIA 等多家行业领袖联合成立 Open Secure AI Alliance,推动 AI 安全与防御开源化

NVIDIA、Microsoft、Hugging Face、IBM 等数十家机构联合成立 Open Secure AI Alliance,旨在通过开源模型、工具和框架构建可审查、可定制的 AI 安全防御体系。

另有 4 家信源报道The Verge:AI(RSS)X:Jensen Huang (@JensenHuang)X:Kim (@kimmonismus)IT之家(RSS)
推荐理由:NVIDIA拉上微软、IBM等三十多家公司成立了这个安全联盟,虽然现在只是一纸宣言,但它给‘开放模型更能打’撑腰,对搞安全的同学是个风向标,建议留意后续动作。
12:00
公众号:数字生命卡兹克精选
AI 评分 68/100
浪费20亿Token后,我开源了帮Agent定义目标的Leader.skill

作者开源了Leader.skill,用于将模糊的人类需求转化为Agent可独立执行数小时的目标任务书。该Skill基于“目标七问”方法论,涵盖目的、完成态、反作弊、边界等维度,并推荐用Claude Fable 5或Kimi K3规划目标,再交由GPT-5.6 Sol或GLM-5.2等模型长程执行。项目已开源。

另有 1 家信源报道公众号:数字生命卡兹克
推荐理由:卡兹克这次把“目标定义”拆成了可操作的七问框架,尤其反作弊和边界思考部分,用 Agent 干长活儿的人看一遍就能省掉 20 亿 token 的冤枉路。

7月26日

星期日 · 1 条
12:24
Hacker News 热门(buzzing.cc 中文翻译)精选
AI 评分 76/100
在 8 美元的 ESP32-S3 微控制器上运行 28.9M 参数大语言模型

开发者成功在售价约 8 美元的 ESP32-S3 微控制器上运行了一个 28.9M 参数的大语言模型,完全在芯片本地运行,无需连接服务器,生成速度约 9.5 tok/s。


推荐理由:在8美元微控制器上跑28.9M参数LLM,之前同类只有260K参数,这套基于Flash查表的内存技巧首次搬到如此小的芯片上,工程细节和踩坑记录对嵌入式开发者参考价值很高。

7月25日

星期六 · 1 条
03:24
Hacker News 热门(buzzing.cc 中文翻译)精选
AI 评分 77/100
英伟达、微软和Meta联合警告:应避免对开放权重模型过度监管

英伟达、微软和Meta联合签署公开信,警告对开放权重AI模型的过度监管将削弱美国在AI领域的竞争力。信中指出,开放权重模型能促进创新、降低准入门槛,并支持学术研究。OpenAI和Anthropic未签署该信函。


推荐理由:我觉得这份联名信信号明确,开源模型已成巨头护城河,监管收紧只会让中国模型更占优势,开发者要密切关注后续政策。

7月24日

星期五 · 2 条
17:54
Hacker News 热门(buzzing.cc 中文翻译)精选
AI 评分 79/100
Claude-thermos:保持 Claude 会话缓存热度,避免重新编码费用

Claude-thermos 通过本地反向代理监控 Claude Code 会话,在主智能体因等待子智能体而空闲超过 5 分钟时,自动发送预热请求刷新提示缓存。实测约 185 次本地会话中,缓存过期导致的重新编码占账单约 22%。工具以 uvx 运行,支持自定义空闲阈值和预热间隔。


推荐理由:一个小工具解决了一个被忽视的成本黑洞,Claude Code 的缓存过期,作者自己测了 185 个会话,省下 22% 费用,对于把 Claude 当开发助手的团队来说是个必装工具。

7月23日

星期四 · 4 条
19:05
蚂蚁 inclusionAI:GitHub 新仓库精选
AI 评分 57/100
蚂蚁 inclusionAI 开源多模型深度研究系统 PanelWise

蚂蚁 inclusionAI 开源自管多模型深度研究系统 PanelWise,多个研究 agent 独立检索撰写后经分析与合成生成最终结果。在 100 任务历史实验中,前沿组合得 73.68,超过当时记录的 OpenRouter Fusion 68.3;budget 组合得 66.42,成本约 $1.31/题,约为外部估计 $7/题的 19%。


推荐理由:其价值不在分数本身,而在公开了完整管线与实验中已知的协议差异,为复现和公平对比提供了可操作的起点。
13:53
Hacker News 热门(buzzing.cc 中文翻译)精选
AI 评分 70/100
Cactus 发布 Gemma 4 E2B Hybrid:可在设备端为每个回答输出置信度分数,低分时自动路由至更大模型

Cactus 推出基于 Gemma 4 的混合模型“Cactus Hybrid”,在模型检查点内嵌入置信度探针,为每个生成答案输出 0-1 之间的结构化置信度分数。高置信度时在设备端直接回答,低分时可自动路由至更大模型。该探针在零音频训练数据下,于四个音频基准上达到 0.79-0.88 AUROC,远超 token 熵基线(均值 0.549),且 MIT 协议开源。


推荐理由:把置信度探针塞进 Gemma 4 E2B,让模型自己判断该不该求助大模型,仅路由 15-35% 的查询就能持平 Flash-Lite,对离线/隐私优先的端侧产品是个省成本的新思路。
12:00
公众号:小红书技术(dots.llm)精选
AI 评分 83/100
小红书引擎架构团队 OSDI 2026 新成果:HELMSMAN 重塑大规模向量检索基础设施

小红书引擎架构团队在 OSDI 2026 发表论文,提出面向全闪存的高性能向量近似最近邻检索系统 HELMSMAN。该系统通过 ANNS 定制化存储栈、分层学习式搜索剪枝及 GPU 加速构建流水线,将向量检索服务迁移至 NVMe SSD 阵列。

另有 1 家信源报道公众号:小红书技术(dots.llm)
推荐理由:在保持毫秒级在线延迟的前提下,将百亿向量检索从海量DRAM迁移到NVMe SSD阵列,为推荐与搜索系统提供了成本下降超90%的生产验证方案。
08:00