兄弟们，这个笔记本电脑多模态模型有点东西！

PrismML 今天正式发布了 Bonsai 27B，这是目前全球首个能在手机上本地运行的 27B 级大模型。

传统 27B 模型在 FP16 下需要约 54GB 内存，即使激进量化到 4-bit 也仍有 18GB 左右，手机和大多数笔记本根本无法承载。

而 Bonsai 27B 通过端到端极致低比特技术，成功将模型压缩到：

• 1-bit 版本：仅 3.9GB，可直接在 iPhone 17 Pro 上运行
• Ternary 版本：5.9GB，适合笔记本高性能使用

两者均为多模态模型，内置 4-bit 视觉塔，支持图片、截图、文档等输入，同时保留 262K 超长上下文和投机解码加速能力。

更惊人的是其智能密度达到了 0.53 per GB，比全精度基线高出约 10 倍，比现有最佳低比特方案高出 2.7 倍。

性能保留方面，在 15 个基准测试（thinking mode）中，Ternary 版平均保留 95%，1-bit 版保留 90%，数学、编码和工具调用能力尤为接近原版 Qwen3.6 27B。

这带来的最大价值在于真正实现了设备原生 Agentic AI。