# PrismML 发布 Bonsai 27B，全球首个可在手机本地运行的27B级大模型

- 来源：Berryxia.AI (@berryxia)
- 发布时间：2026-07-15 09:22
- AIHOT 分数：45
- AIHOT 链接：https://aihot.virxact.com/items/cmrlezuyn06nnbi2btjyk3qiv
- 原文链接：https://x.com/berryxia/status/2077202209767662002

## AI 摘要

PrismML 发布 Bonsai 27B，通过极致低比特技术将模型压缩至1-bit（3.9GB）和Ternary（5.9GB）版本，可在手机或笔记本本地运行。两者均为多模态模型，支持图片和文档输入，在15个基准测试中Ternary版平均保留95%性能，1-bit版保留90%。

## 正文

这个模型也是通过Qwen3模型打底做的量化，Ternary-bonsai-27b-mlx-2bit，已经接在了我们公司自己的业务中去做本地的任务，没有太大问题，还是多模态很舒服。

我是load在LM Studio 中，然后开启local Server后，直接到我的产品中配置这个本地地址就行了。

我的这个笔记本使用的M1Pro 32G 回答速度也挺快的，感觉还不错啊！我再体验体验😄

### 引用推文

> Berryxia.AI：兄弟们,这个笔记本电脑多模态模型有点东西! PrismML 今天正式发布了 Bonsai 27B,这是目前全球首个能在手机上本地运行的 27B 级大模型。 传统 27B 模型在 FP16 下需要约 54GB 内存,即使激进量化到 4-bit 也仍有 18GB 左右,手机和大多数笔记本根本无法承载。 而 Bonsai 2...