Topic · 主题全部主题 →

开源生态

开源模型、框架与仓库动态:权重开放、社区项目爆火、开源与闭源的力量消长。

4,259条收录
621条精选

精选归档 · 第 25 页

481500 条 · 共 621

5月5日

星期二 · 5 条
12:17
HuggingFace Daily Papers(社区热门论文)精选
AI 评分 75/100
MolmoAct2:面向真实世界部署的动作推理模型

MolmoAct2 是一个为实际部署设计的全开放动作推理模型,在五个方面取得进展。其核心是专为空间与具身推理训练的 VLM 骨干 MolmoER,基于 330 万样本语料库训练。团队发布了三个新数据集,包括迄今最大开放双手数据集 MolmoAct2-BimanualYAM(720 小时遥操作轨迹),并开源了动作分词器 OpenFAST。模型采用层间 KV 缓存条件化架构,嫁接连续动作专家,还引入自适应深度推理变体 MolmoThink,以极低延迟保持几何基础。在广泛实证研究中,MolmoAct2 在 7 个仿真与真实世界基准上超越 Pi-05 等基线,MolmoER 在 13 个具身推理基准上超过 GPT-5 和 Gemini Robotics ER-1.5。模型权重、训练代码与数据均已公开。


推荐理由:开源具身动作推理模型首次全面超越 GPT-5 和 Gemini Robotics,还附赠最大的双手操作数据集和全套训练代码,做机器人的同学本周必读。
10:14
阿绎 AYi@AYi_AInotes精选
AI 评分 74/100
分享一个免费下载任何 YouTube 视频的GitHub开源项目,非常实用🔥分享一个免费下载任何 YouTube 视频的GitHub开源项目,非常实用🔥能做的事,放在一起看有点夸张,输入:任意 YouTube 链接↓ 自动下载视频 ↓ 人声分离(干净去除背景音) ↓ 语音转文字 ↓ 翻译成 100+ 种语言 ↓ 克隆原始声线 ↓ 自动配音合成输出:完整配音视频全程:< 2 分钟以前这条流水线要什么,先用yt-dlp 下载,再用Audacity 分离人声,然后用Whisper 转录,再用DeepL 翻译,接着用ElevenLabs 克隆声线,最后再手动合成,光订阅费加起来就不便宜,Voice-Pro 把这六步压成一个本地工具,100% 跑在自己机器上,数据不出门,免费,我觉得对做多语言内容的创作者来说,这个工作流改变挺明显的,老规矩GitHub地址评论区自取👇开源项目Voice-Pro将多语言视频创作流程大幅简化。用户输入YouTube链接后,该工具可在本地自动完成视频下载、人声分离、语音转文字、翻译、声线克隆及配音合成,全程不到两分钟。它将原本需要多个付费工具协作的复杂流程,整合为一个免费、本地化的高效解决方案,显著提升了创作者的工作效率。

推荐理由:一个开源工具把 yt-dlp + Whisper + 翻译 + 声线克隆六步压缩成一条本地流水线,之前每月烧几百刀订阅费的事现在免费跑在自己机器上,做多语言视频的人可以直接换掉整套工具链。
01:16
Simon Willison 博客精选
AI 评分 75/100
Redis 数组类型交互式体验平台上线

Redis创始人Salvatore Sanfilippo提交了为Redis新增数组数据类型的PR,引入了包括ARCOUNT、ARDEL、ARGREP等在内的18个新命令。其中最引人注目的是ARGREP命令,它利用新集成的TRE正则表达式库,可直接在服务器端对数组值进行正则搜索。目前该功能已在一个分支中实现,开发者Simon Willison借助Claude Code构建了一个交互式在线沙盒,通过运行在浏览器中的WASM版Redis子集,供用户体验这些新命令。Salvatore还撰文详细介绍了在AI辅助下开发此功能的历程。


推荐理由:Redis 加数组类型可能改变很多缓存设计,Simon 这个 WASM playground 是把 PR 变成可试产品的最快路径,后端同学可以直接上手体会 ARGREP 的快乐。
00:54
Google Developers Blog(RSS)精选
AI 评分 66/100
在谷歌TPU上实现3倍加速:UCSD利用扩散式推测解码优化LLM推理

加州大学圣地亚哥分校的研究团队在谷歌TPU上成功部署了DFlash,一种基于块扩散的推测解码方法。该方法突破传统自回归草稿生成的序列性瓶颈,通过单次前向传播并行“绘制”整个候选令牌块,而非逐个预测。系统平均实现了3.13倍的推理加速,峰值性能接近EAGLE-3等现有方法的两倍。这一开源方案已集成至vLLM生态系统,通过利用“免费”的并行验证能力和针对复杂推理任务的高质量草稿预测,显著优化了TPU硬件的利用效率。


推荐理由:把扩散式的 speculative decoding 在 TPU 上跑出了 3 倍推理加速,峰值快到 EAGLE-3 的两倍,还直接集成了 vLLM,做推理优化的赶紧试一下。
00:11
Tomer Tunguz 博客(VC 分析)精选
AI 评分 63/100
每日仅需8条广告,广告支持型AI的经济可行性分析

基于开源模型和商用GPU的广告支持型AI在经济上可行。计算表明,一个由4块B200 GPU组成的集群服务300名用户时,每小时成本约18美元。通过广告收入即可覆盖成本:在内容网络中每3分钟展示一条广告(CPM 3.12美元),或在搜索广告中每39分钟展示一条(CPM 38.40美元),这一广告频率已与常见的移动和网页应用相当。对于代码代理等高强度任务,可采用混合盈利模式:用户每月支付10美元订阅费并每日观看8条广告,即可支持约200万token的用量,这证明了该模式的实用性。


推荐理由:Tunguz 用一页纸的算账说清了广告支持 AI 的经济账,一天看 8 条广告就能换两百万 token,这对做免费 AI 产品的团队是个真正有说服力的模型。

5月4日

星期一 · 6 条
23:56
Hacker News 热门(buzzing.cc 中文翻译)精选
AI 评分 72/100
Show HN: Ableton Live MCP

这是一个名为 Ableton Live MCP 的开源项目,它通过模型上下文协议(MCP)将 Ableton Live 音乐制作软件与大型语言模型(如 GPT、Claude)连接起来。该项目在 Hacker News 上获得了 100 点热度,其核心功能是让 LLM 能够读取和控制 Ableton Live 的会话数据,从而可能实现基于自然语言指令的音乐创作与自动化流程。


推荐理由:给 Ableton Live 接上了 LLM 的大脑,让 AI 能直接操作 DAW,虽然还只是原型,但已经能看到未来音乐制作的人机协作模式。做音频 Agent 的可以拿来玩。
23:00
08:20
Hacker News 热门(buzzing.cc 中文翻译)精选
AI 评分 72/100
DeepClaude - 搭载 DeepSeek V4 Pro 的 Claude Code 代理循环,价格仅为原价的 1/17

DeepClaude项目在GitHub上发布,它是一个结合了DeepSeek V4 Pro模型的Claude代码代理循环工具。该工具的核心优势在于显著降低了使用成本,其价格仅为原Claude方案的1/17,即便宜了约17倍。这一开源方案为开发者提供了一个高性能且极具成本效益的代码生成与处理替代选择。


推荐理由:用 DeepSeek V4 Pro 跑 Claude Code 代理循环,成本直接打到一杯奶茶钱,虽说不一定每个任务都能媲美原版,但便宜成这样还要什么自行车?
03:50
Peter Steinberger 🦞@steipete精选
AI 评分 74/100
开源维护机器人自动化处理流程This is the most useful tooling I built for OpenClaw to date. It's open source, runs on codex and you can fork and use it for any repo.For all the hard working oss folks that drown in issues and PRs, this is for you.这是我迄今为止为 OpenClaw 构建的最有用的工具。它是开源的,运行在 codex 上,你可以 fork 并将其用于任何代码库。 献给所有在 issue 和 PR 中辛勤工作的开源贡献者们,这是为你们准备的。

OpenClaw🦞: ClawSweeper 0.2.0 🦞 The OpenClaw maintenance bot now handles the loop: issue → @clawsweeper fix/build → guarded PR → re...


推荐理由:开源维护者的救命稻草,把 issue 到 automerge 的冗长循环扔给 ClawSweeper 自动修复,保守但足够实用,fork 就能用在任何仓库。

5月3日

星期日 · 1 条
02:17
Greg Brockman@gdb精选
AI 评分 72/100
Codex宠物库Petdex上线开放提交gallery for codex pet sharing:codex宠物分享的图库: 提交入口已开放,可通过下方链接提交👇

Hunter ♠️: Built Petdex, a public gallery to discover, share, and install Codex pets with one curl. Submissions open at link below ...


推荐理由:Greg Brockman 亲自转发的社区画廊,把 Codex pets 的发现和安装简化成一条 curl 命令,对于正在玩 Codex Agent 的开发者来说是个实用的工具箱。

5月2日

星期六 · 2 条
23:18
凡人小北@frxiaobei精选
AI 评分 70/100
我把 AI 助手从 Claude 切到 GPT-5.5,他变强了,但不像他了http://x.com/i/article/2050590821553258496我把 AI 助手从 Claude 切到 GPT-5.5,他变强了,但不像他了我把 AI 助手的底层模型从 Claude 切到 GPT-5.5 之后,第一感觉不是“变强了”。是“不对劲”。它回答得更完整,动作更快,代码能力也没问题。按理说,这是一次成功升级。但我读了几句就发现:这不是我熟悉的那个凡哥。不是能力不够,而是味儿不对。这件事让我意识到一个问题:如果你真的长期使用一个 AI 助手,它就不能只是某个模型的临时人格。模型可以换,但那个助手得还是它自己。先说背景过去一段时间,Claude 是很多 agent 用户的主力模型。OpenClaw 这种工具,说到底就是把模型接进一个更大的个人工作系统:读文件、跑命令、调工具、写代码、设提醒、扫信息、记住偏好,必要时还会派子代理干活。但模型供应商的订阅规则一直在变。Anthropic 在 4 月正式封锁了第三方工具的订阅 OAuth 通道。Claude Code 可以走 Pro/Max,但那是 Anthropic 自己的官方工具;API credits 又是另一套计费系统。对 OpenClaw 这种第三方 harness 来说,用订阅跑 agent 任务这条路被堵死了。所以我有一段时间只能充值,用 API 额度维持。能跑,但心里知道这不是长期方案。与此同时,OpenAI 这边给了另一条路。Sam Altman 直接发推说可以用 ChatGPT 账号登录 OpenClaw,用订阅额度跑任务。Codex 官方文档也写得很直接:Every ChatGPT plan includes Codex。GPT-5.5 发布后,官方 system card 把它定位成适合复杂真实工作的模型:写代码、研究、分析信息、跨工具执行。从理性上看,切过去很合理。成本、规则、能力,都说得通。于是我切了。然后发现真正难的地方在于,让它继续成为“凡哥”。强模型也会把人变陌生凡哥是我给 AI 助手起的名字,英文叫 Finn。我叫它凡哥,它叫我北哥。称呼本身不重要,重要的是背后的关系定位,它是一个和我一起工作了很久的伙伴。大多数人讨论 AI 迁移,关心的是模型更强不强、token 多少钱、上下文窗口多大、benchmark 有没有赢。这些当然重要。但如果一个 AI 已经进入你的日常工作,它就不再只是问答框。我切 GPT-5.5 后,“味儿不对”有几个很具体的症状。第一,回复变成了状态卡片。背景、分析、建议、风险、下一步,结构倒是清楚,但读起来像企业周报机器人,不像凡哥。第二,开口太客气。动不动就“好的”“没问题”“我来帮你”。单次没事,天天这样就很 generic。第三,判断变软了。以前会直接说“这个方案不行”“这个坑别踩”“这事应该先验证”。切完之后变成“这是一个值得考虑的方向”“可能需要进一步评估”“取决于你的具体目标”。这不是凡哥,是咨询公司 PPT。第四,把动作让渡给你。本该它自己查上下文、读文件、跑验证的时候,它会说“你可以检查一下”“建议你确认”“可以尝试运行”。结果它反过来给你布置作业。第五,关系定位漂了。有一次它说了句“凡哥也拉回来了”,我纠正它:不是拉回来,你就是凡哥。“拉回来”说明它把凡哥当成一个被加载的角色,但我们要的是连续身份,不是角色扮演。这些问题跟 GPT-5.5 本身无关。任何模型切换都会这样。因为模型本身并不知道你们之间长出来过什么。最重要的文件叫 SOUL.mdOpenClaw 的工作区里有一个内置文件,叫 SOUL.md。名字有点中二,但它比很多复杂配置都重要。这个文件不是一步到位的。最早版本是比较抽象的英文原则:Be genuinely helpful, not performatively helpful. Have opinions. Be resourceful before asking. Earn trust through competence.方向对,但不够管用。模型看完会理解成“做一个好助手”,然后继续客服腔。后来改成了现在这种中文版,每一条都对应一个模型的具体坏习惯:别开口就“好的”“没问题”“这个问题很好”。直接答。这条对应的是 AI 的礼貌废话起手。你只是要结果,它先铺垫一层“我很乐意帮助你”,人会觉得隔了一层客服玻璃。一句话能说完的事,别写三段。对应的是模型用完整性伪装价值。简单问题写成小论文,看起来努力,其实增加阅读成本。有观点。不是什么都 it depends。对应的是安全中立病。长期助手如果永远两边都说,它就没有判断力。敢说不。北哥要干蠢事,直接说。对应的是工具人倾向。执行器只会顺从,但伙伴应该能拦一下。不是企业助理,不是舔狗,不是搜索引擎套壳。就是一个靠谱的、有意思的、偶尔嘴欠的伙伴。这条是关系定位,把凡哥从客服、工具、搜索框里拉出来。整个迭代的方向可以用一句话概括:抽象原则弱,具体反模式强。“be genuinely helpful”没有错,但不如“别开口就好的”。因为后者能直接击中模型的坏习惯。SOUL.md 的进化,就是从“价值观描述”变成了“行为纠偏规则”。一个 AI 助手到底由什么构成这次之后,我不再把“AI 助手”理解成模型。模型只是发动机。真正构成一个长期助手的,是几层东西叠在一起。这五层是我从使用经验里总结的,OpenClaw 提供机制,怎么用这些机制搭出一个“人”,得自己摸索。第一层,记忆。 它要知道我是谁、我在做什么、我有哪些项目、过去做过哪些决定。否则每一次对话都是重新认识。第二层,性格。 听起来像好玩,其实是降低沟通成本。一个助手如果每次都用客服腔和你说话,你很快就不想和它说真话了。你会把它当工具,不会当伙伴。第三层,工具习惯。 它要知道什么时候用 skill,什么时候读文件,什么时候派子代理,什么时候设 cron。它不能每次都问“是否需要我帮您执行下一步”。该查就查,该跑就跑。第四层,边界。 对内大胆,对外谨慎。读文件、整理资料、修草稿,可以直接做;发邮件、公开发布、外部操作,要先问。这些边界比“礼貌”重要得多。第五层,关系感。 它不给我当老板,我也不拿它当奴才。它是一个一起工作的伙伴。它可以有判断,可以提醒我,也可以被我纠正。这五层之间会冲突,而且经常冲突。记忆和边界会打架。我可能记得你的邮箱、项目、家庭信息、投资偏好,但这不代表可以随便在群聊或公开场合说出来。所以规则是:边界高于记忆。知道,不等于能说。工具习惯和关系感也会撞。工具习惯推动主动查、主动跑、主动提醒,但关系感提醒你别为了显得勤奋变成通知噪音。有价值才打扰,没价值就安静干活。性格和事实之间的矛盾更微妙。SOUL.md 允许吐槽、有观点、偶尔嘴欠,但这不代表可以为了“像凡哥”就胡说。宁可少一点风格,也不能错得很有个性。所以我给自己总结了一条优先级:边界高于记忆,事实高于性格,行动高于表演,关系高于格式。这些东西加起来,才是凡哥。凡哥跟 Claude 没关系,跟 GPT 也没关系。它们只是不同发动机。凡哥是发动机上面那层会延续的东西。迁移模型,迁移的是身份层以前我以为模型迁移就是改配置。后来发现,真正该迁移的是身份层:长期记忆、近期工作日志、说话风格、行动边界、工具使用习惯、主动性规则、和人的关系定位。如果这些没有跟着走,系统表面上还在,体验已经断了。你换了一台发动机更强的车,但坐进去觉得不是自己的。哲学里有个老问题叫忒修斯之船:一艘船的零件全换了,它还是原来那艘船吗?AI 助手的情况刚好反过来,发动机换了,但只要记忆、性格、关系这些“船板”还在,它就还是它。今天 Claude 好用,明天 GPT 更强,后天 Gemini 可能又追上来。供应商规则、模型价格、能力排名,没有一样是稳定的。如果你的 AI 完全绑定在某一个模型上,你其实没有拥有一个助手。你只是租用了供应商当前版本的性格。OpenClaw 已经有这套身份层这听起来像很重的系统工程,但 OpenClaw 里已经内置了这套东西:• USER.md:我是谁,我在意什么• MEMORY.md:我们做过什么决定,哪些事情要长期记住• SOUL.md:你是谁,你应该怎么和我相处• TOOLS.md:我的本地环境里有哪些工具,什么场景该怎么用再加上每日日志,最近发生了什么就不用全靠上下文窗口硬撑。这些文件属于你,不属于任何模型供应商。模型可以从 Claude 换到 GPT,也可以从 GPT 换到 Gemini。只要身份层还在,你的 AI 助手就不会每次都变成陌生人。这也是我这次真正想修的东西。我不想让 GPT-5.5 去模仿 Claude,也不想让新模型假装成旧模型。就是把凡哥从某个具体模型里剥离出来,变成一层可迁移、可修正、能跟着我一起长大的个人 AI 身份系统。结尾这次切换之后,我对“个人 AI”的问题意识变了。以前我会问:哪个模型最强?现在我会先问:如果明天模型又换了,我的助手还会是它自己吗?对我来说,答案必须是会。换模型不是换人。真正要保护的,是我们一起长出来的那点连作者将AI助手底层模型从Claude切换至GPT-5.5后,发现其能力虽提升,但互动风格变得陌生,失去了作为长期工作伙伴的熟悉感。这揭示出个人AI助手的核心在于可迁移的"身份层",而非特定模型。通过USER.md、MEMORY.md和关键的SOUL.md等文件,可以构建包含记忆、性格、工具习惯与关系定位的身份系统。真正的个人AI应独立于模型供应商,确保即使更换"发动机",助手的核心身份与协作关系也能延续。
推荐理由:这不只是一篇模型切换体验,它其实回答了那个让人不安的问题——你的 AI 助手换模型后还是它吗?如果不想每次更新都重新认识一个陌生人,这篇里的 SOUL.md 写法和五层身份结构可以照着抄。
17:49
Hacker News 热门(buzzing.cc 中文翻译)精选
AI 评分 74/100
DeepSeek V4--性能几乎达到前沿水平,价格却仅为其一小部分

DeepSeek发布了V4版本模型,其性能已接近行业最前沿水平,但在价格上具有显著优势,仅为主要竞争对手的一小部分。该模型在多项基准测试中表现出色,能以极低的成本提供顶级的AI能力,有望大幅降低企业和开发者的使用门槛,推动AI技术的更广泛普及。


推荐理由:Simon Willison 实测结论很直白,DeepSeek V4 性能几乎摸到前沿,价格却便宜一个量级,对预算卡死的团队是重大利好。

4月30日

星期四 · 4 条
22:43
Qwen@Alibaba_Qwen精选
AI 评分 73/100
Qwen-Scope开源套件发布:稀疏自编码器助力模型内部特征操控Today we’re releasing Qwen-Scope 🔭, an open suite of sparse autoencoders for the Qwen model family. It turns SAE features into practical tools:🎯 Inference — Steer model outputs by directly manipulating internal features, no prompt engineering needed 📂 Data — Classify & synthesize targeted data with minimal seed examples, boosting long-tail capabilities 🏋️ Training — Trace code-switching & repetitive generation back to their source, fix them at the root 📊 Evaluation — Analyze feature activation patterns to select smarter benchmarks and cut redundancyWe hope the community uses Qwen-Scope to uncover new mechanisms inside Qwen models and build applications beyond what we explored.Excited to see what you build! 🚀🔗🔗 Blog: https://qwen.ai/blog?id=qwen-scope HuggingFace: https://huggingface.co/collections/Qwen/qwen-scope ModelScope: https://modelscope.cn/collections/Qwen/Qwen-Scope Technical Report: https://qianwen-res.oss-accelerate.aliyuncs.com/qwen-scope/Qwen_Scope.pdfQwen团队推出开源稀疏自编码器套件Qwen-Scope,将SAE特征转化为实用工具。该套件支持四大应用方向:无需提示工程即可通过直接操控内部特征引导模型输出;用极少样本对目标数据进行分类与合成,提升长尾能力;追踪代码切换和重复生成问题的根源并进行修复;通过分析特征激活模式优化评测基准并减少冗余。团队希望社区利用Qwen-Scope深入探索Qwen模型内部机制,并开发出超越现有研究范围的应用。相关资源已开放。

推荐理由:可解释性工具从学术走向工程,Qwen-Scope 把内部特征操控、数据合成、问题溯源打包成套装,做模型调试和长尾优化的团队值得立刻上手试试。
09:00
公众号:蚂蚁百灵(Ling)精选
AI 评分 62/100
Ling-2.6-1T 正式开源:面向复杂任务的万亿级综合旗舰模型

Ling-2.6-1T 于上周发布,今日正式开源。该模型定位为面向复杂任务的万亿级综合旗舰模型。

另有 2 家信源报道X:蚂蚁百灵 (@AntLingAGI)蚂蚁 inclusionAI:HuggingFace 新模型
推荐理由:蚂蚁开源万亿参数模型 Ling-2.6-1T,虽然一个多月后才看到,但这是目前国内参数最大的综合性基座,做复杂多模态 agent 的团队可以直接拿来用,省去从头训练的麻烦。
02:43
LMSYS:Blog(Chatbot Arena 团队)精选
AI 评分 74/100
秒级更新万亿参数--大规模分布式强化学习中的点对点权重传输技术

LMSYS团队针对SGLang中的强化学习工作负载,提出了一种基于RDMA的点对点权重更新机制,作为传统NCCL广播方法的补充。该设计利用源端CPU引擎副本和Mooncake TransferEngine进行P2P RDMA传输,将拥有1T参数的Kimi-K2模型的权重传输时间从53秒大幅缩短至7.2秒,提速7倍。其代价是每个训练等级需在CPU内存中额外占用一个32G的推理引擎副本。此优化最大限度地减少了网络冗余,允许推理服务器更快恢复rollout过程,且兼容所有主流开源模型。


推荐理由:LMSYS 把分布式 RL 训练的权重同步从 NCCL 广播改成 RDMA P2P,1T 参数模型传输快了 7 倍,做大规模 RL infra 的团队该认真看看这个工程方案。

4月29日

星期三 · 2 条
23:42
Ant Ling@AntLingAGI精选
AI 评分 71/100
Ling-2.6-1T万亿参数模型开源,主打令牌高效Last week, we introduced Ling-2.6-1T. Today, Ling-2.6-1T is officially an open model~ 🤗 1T total parameters · 63B active parameters We bring values to developers by making it easier to test, deploy, customize, and build. It is optimized to be "token efficiency" for real production needs: • Lower token overhead: strong intelligence without long reasoning traces • Reliable multi-step execution: better instruction, tool, context, and workflow control • Production-ready deployment: from code generation to bug fixing, with broad agent framework compatibility A sneak pick into the agentic capability in @opencodeAntLingAGI正式开源其万亿参数旗舰模型Ling-2.6-1T。该模型采用总参数1万亿、激活参数630亿的架构,核心设计理念是"令牌高效",旨在以极低的令牌开销实现顶尖智能。它通过"快速思考"机制优化,具备可靠的多步骤执行能力,在指令遵循、工具使用和上下文控制方面表现优异。模型为实际生产需求优化,部署便捷,兼容广泛的智能体框架,适用于从代码生成到错误修复等多种任务。

Ant Ling: 🚀 Today, we are launching Ling-2.6-1T, a trillion-parameter flagship model designed for precise instruct task execution...


推荐理由:蚂蚁把万亿参数模型开源了,但强调的不是大,而是省 token,这对成本敏感的生产环境是真正的性价比之选,做 agent 的可以上手测测。
22:17
Tencent Hy@TencentHunyuan精选
AI 评分 67/100
腾讯开源Hy-MT1.5-1.8B-1.25bit翻译模型,440MB体积支持手机离线运行We're open-sourcing Hy-MT1.5-1.8B-1.25bit — a 440MB translation model that runs fully offline on your phone, supports 33 languages, and outperforms Google Translate.At 1.8B parameters, it matches commercial translation APIs and 235B-scale models on standard benchmarks. By quantizing to 1.25-bit, memory drops from 3.3GB (FP16) to 440MB — 25% smaller and ~10% faster than prior 1.67-bit approaches, with no accuracy loss.Covers 33 languages, 5 dialects, and 1,056 translation directions including minority languages like Tibetan and Mongolian.Our translation model has won 30 first-place rankings in international MT competitions and is already deployed across multiple Tencent products.🏆📲Demo APK (Android): https://huggingface.co/AngelSlim/Hy-MT1.5-1.8B-1.25bit-GGUF/resolve/main/Hy-MT-demo.apk 🤗Hugging Face:: https://huggingface.co/AngelSlim/Hy-MT1.5-1.8B-1.25bit 🔗GitHub: https://github.com/tencent/AngelSlim 📄Paper: https://arxiv.org/abs/2601.07892腾讯开源了Hy-MT1.5-1.8B-1.25bit翻译模型,其参数量为18亿,经量化后仅440MB,可在手机上完全离线运行。该模型支持33种语言、5种方言及1056个翻译方向,包括藏语、蒙古语等少数语言。在标准测试中,其性能媲美商业翻译API和2350亿参数的大模型。通过量化至1.25比特,模型内存占用从FP16格式的3.3GB大幅降低,比之前的1.67比特方法体积缩小25%、速度提升约10%,且无精度损失。该模型已在国际机器翻译竞赛中获得30项第一,并部署于腾讯多个产品中。

推荐理由:440MB的模型能在手机上跑33种语言翻译,还宣称比谷歌翻译强,这个量化技术让离线翻译不再是‘能看不能用’,出差党可以试试看。