# PrismML 发布 Bonsai 27B：全球首个可在手机上运行的 27B 级多模态大模型

- 来源：Berryxia.AI (@berryxia)
- 发布时间：2026-07-15 08:10
- AIHOT 分数：57
- AIHOT 链接：https://aihot.virxact.com/items/cmrlctz6v03y9bi2bchl2gxwk
- 原文链接：https://x.com/berryxia/status/2077183892554170637

## AI 摘要

PrismML 发布 Bonsai 27B，这是全球首个能在手机上本地运行的 27B 级多模态大模型。其 1-bit 版仅 3.9GB（可在 iPhone 17 Pro 运行），Ternary 版 5.9GB（适合笔记本），均保留 262K 超长上下文。

## 正文

兄弟们，这个笔记本电脑多模态模型有点东西！

PrismML 今天正式发布了 Bonsai 27B，这是目前全球首个能在手机上本地运行的 27B 级大模型。

传统 27B 模型在 FP16 下需要约 54GB 内存，即使激进量化到 4-bit 也仍有 18GB 左右，手机和大多数笔记本根本无法承载。

而 Bonsai 27B 通过端到端极致低比特技术，成功将模型压缩到：

- 1-bit 版本：仅 3.9GB，可直接在 iPhone 17 Pro 上运行
- Ternary 版本：5.9GB，适合笔记本高性能使用

两者均为多模态模型，内置 4-bit 视觉塔，支持图片、截图、文档等输入，同时保留 262K 超长上下文和投机解码加速能力。

更惊人的是其智能密度达到了 0.53 per GB，比全精度基线高出约 10 倍，比现有最佳低比特方案高出 2.7 倍。

性能保留方面，在 15 个基准测试（thinking mode）中，Ternary 版平均保留 95%，1-bit 版保留 90%，数学、编码和工具调用能力尤为接近原版 Qwen3.6 27B。

这带来的最大价值在于真正实现了设备原生 Agentic AI。

用户可以在手机或笔记本上本地跑多步推理、结构化工具调用、长期 agentic 工作流，完全离线且数据不离开设备。

无论是处理私人文档、持续研究任务，还是构建隐私优先的智能体，都不再依赖云端。

目前模型已全部开源（Apache 2.0 协议），开发者可直接在 Hugging Face 下载 GGUF 格式模型，并通过官方提供的 Bonsai-demo 一键运行（支持 llama.cpp 和 MLX）。

官网也开放了限时免费开发者预览 API 供快速测试。

从云端大模型到口袋里的 27B 智能，Bonsai 27B 真正把智能密度推向了新的高度，也为本地 Agent 和混合部署打开了全新的可能性。

官网：https://prismml.com/news/bonsai-27b
模型集合：https://huggingface.co/collections/prism-ml/bonsai-27b
一键 Demo：https://github.com/PrismML-Eng/Bonsai-demo

### 引用推文

> PrismML：Today, we're announcing Bonsai 27B: the first 27B-class model to run on a phone. Bonsai 27B is the new multimodal flagship of the Bonsai family. Based on Qwen3....