Tencent Hy@TencentHunyuan腾讯把 295B 的 Hy3 量化到单 GPU 可跑，这比模型本身更值得关注，本地部署大模型 agent 的门槛又被踩下去一大截。
腾讯混元发布旗舰级 295B MoE 模型 Hy3 的 1-bit 与 4-bit 量化版本。Hy3 在同类规模中表现最佳，可媲美万亿参数级旗舰模型，适用于多数智能体场景。量化版可通过 llama.cpp 运行并启用 MTP，大幅降低硬件门槛，实现单 GPU 部署。模型采用 Apache 2.0 开源协议，支持商用，并提供 2 周免费 API（通过 OpenRouter）。
我们刚刚发布了 Hy3 的 1-bit 与 4-bit 版本，这是一款旗舰级规模的 295B 模型，可在单张 GPU 上运行。👌
使用 llama.cpp 运行 Hy3，启用 MTP，即可在显著降低的硬件配置上体验强大的智能能力。🚀🚀🚀
迫不及待想看看你们会用它构建什么。
#Hy3 #Hy #GGUF #llamacpp
Tencent Hy@TencentHunyuan · X腾讯把 295B 的 Hy3 量化到单 GPU 可跑，这比模型本身更值得关注，本地部署大模型 agent 的门槛又被踩下去一大截。
腾讯混元发布旗舰级 295B MoE 模型 Hy3 的 1-bit 与 4-bit 量化版本。Hy3 在同类规模中表现最佳，可媲美万亿参数级旗舰模型，适用于多数智能体场景。量化版可通过 llama.cpp 运行并启用 MTP，大幅降低硬件门槛，实现单 GPU 部署。模型采用 Apache 2.0 开源协议，支持商用，并提供 2 周免费 API（通过 OpenRouter）。
我们刚刚发布了 Hy3 的 1-bit 与 4-bit 版本，这是一款旗舰级规模的 295B 模型，可在单张 GPU 上运行。👌
使用 llama.cpp 运行 Hy3，启用 MTP，即可在显著降低的硬件配置上体验强大的智能能力。🚀🚀🚀
迫不及待想看看你们会用它构建什么。
#Hy3 #Hy #GGUF #llamacpp