oMLX 这个更新把 Gemma 4 的视觉能力塞进本地,加一键接入 Claude 的工具链,端侧 AI 从差点意思到真可用,值得每个 Mac 开发者立刻试一下。
oMLX项目更新至0.3.9.dev2版本,集成了Gemma 4的MTP视觉路径、DFlash引擎和ParoQuant技术,显著提升了图文处理速度。新增一键启动copilot功能,可便捷接入Claude等工具,并通过oQ自动代理解决显存瓶颈。这些改进大幅增强了本地AI在速度、集成与易用性上的表现,正推动AI能力从云端向个人电脑回归。
最近我鼓吹苹果的端侧模型和统一内存的优势!
前有MLX ,现在不断拓展的格式都出来比如之前也分享过的oMLX又有更新!
Apple Silicon上的本地AI已经把云端大模型的很多优势直接干掉了。
oMLX 0.3.9.dev2直接把Gemma 4的MTP视觉路径、DFlash引擎、ParoQuant全塞了进来,图文解码速度大幅提升;
还新增了omlx launch copilot,一键接入Claude / Codex / OpenClaw等顶级工具;
oQ自动建proxy解决显存不够的问题;
管理界面也加了重启服务器按钮。
以前本地AI总觉得"差点意思",现在它在速度、集成度、易用性上越来越离谱地强。
这才是真正把AI从云端拉回你自己电脑的节奏。
项目地址:https://github.com/jundot/omlx