# Unsloth 将 2.8T 参数 Kimi K3 量化至 594G 可本地运行

- 来源：AYi (@AYi_AInotes)
- 发布时间：2026-07-30 01:47
- AIHOT 分数：41
- AIHOT 链接：https://aihot.virxact.com/items/cms6e1vur00sarohzj43n4uxa
- 原文链接：https://x.com/AYi_AInotes/status/2082523406184976467

## AI 摘要

UnslothAI 将月之暗面开源的 2.8 万亿参数 Kimi K3 模型从 1.56TB 动态 1-bit 量化至 594GB（缩小 62%），保留约 78.9% 精度。量化后的模型可在 128GB 内存的 Mac Studio 上本地运行，标志着消费级硬件首次能运行全球顶尖开源大模型。权重发布 48 小时内即完成量化、适配与教程，体现了开源生态的协作速度。

## 正文

感觉现在开源的速度已经疯了。。。
@Kimi_Moonshot 家的K3开源才两天，已经被@UnslothAI 干到能在Mac Studio上跑了🤯！！！

2.8万亿参数的模型，原始大小1.56T，
他们用动态1-bit量化，直接压到594G，缩了62%，

还保留了78.9%的精度，
128G内存的Mac Studio就能跑，
虽然速度不快，但它真的能跑。

谁能想到半个月前，这个级别的模型还只有大厂有算力碰，
现在我们在家，在自己的消费级电脑上，就能跑全球最顶尖的开源大模型了，damn！

权重放出来48小时，量化、适配、教程全给你整完了，
Unsloth这速度，真的离谱。

不得不说这就是开源最恐怖的地方啊，
模型放出来第一天，
全世界最聪明的工程师都在帮你压体积、提速度、做适配，
闭源模型，永远享受不到这个待遇。

### 引用推文

> Unsloth AI：Kimi K3 can now be run locally! ✨ The 1-bit model retains ~78.9% accuracy after we shrunk it from 1.56TB to 594GB (-62% size). Run on a Mac Studio + 128GB RAM d...