研究团队在 M1 Ultra 上对 Gemma 4 12B 进行基准测试
Apple Silicon 与 macOS 虚拟机:借助 Llama.cpp 实现 11–16 倍的 LLM 推理加速
24 HOURS
本事件热度走势
当前热度 10峰值 10(8月12日 01:49)近24小时变化 —
移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。
TIMELINE
1 条公开报道 · 官方一手 0 条 · 最新在前报道时间线
- Apple Silicon 与 macOS 虚拟机:借助 Llama.cpp 实现 11–16 倍的 LLM 推理加速
研究团队为 macOS 虚拟机中的 Metal 能力查询构建进程级兼容层,使 llama.cpp 能选用更新的 Metal 内核。在 M1 Ultra 上,TinyLlama 1.1B 的提示处理速度提升 11.08 倍、token 生成提升 16.36 倍,接近裸机性能的 98%;Gemma 4 12B 的提示处理与生成速度分别提升 7.20 倍和 14.54 倍。