正文 · AI 翻译
找不到基准测试和下载链接？看这里 👇 https://huggingface.co/AngelSlim/Hy3-GGUF
我们刚刚发布了 Hy3 的 1-bit 和 4-bit 版本,这是一款旗舰级规模的 295B 模型,可以在单张 GPU 上运行。👌 使用 llama.cpp 运行 Hy3,启用 MTP,在显著降低的硬件配置上体验强大的智能能力。🚀🚀🚀 迫不及待想看到你们的创作。 #Hy3 #Hy #GGUF #llamacpp
Tencent Hy@TencentHunyuan · X精选理由
混元把295B旗舰模型压进单GPU，1-bit和4-bit版本对本地部署是个大礼包，开源社区可以动起来了。
AI 摘要
找不到基准测试和下载链接？看这里👇https://huggingface.co/AngelSlim/Hy3-GGUF 我们刚刚发布了 Hy3 的 1-bit 与 4-bit 版本，这是一个旗舰级 295B 模型，可在单张 GPU 上运行。👌 使用 llama.cpp 运行 Hy3，启用 MTP，在显著更低的硬件上体验强大的智能。🚀🚀🚀 迫不及待想看到你们的作品。 #Hy3 #Hy #GGUF #llamacpp
正文 · AI 翻译
找不到基准测试和下载链接？看这里 👇 https://huggingface.co/AngelSlim/Hy3-GGUF
我们刚刚发布了 Hy3 的 1-bit 和 4-bit 版本,这是一款旗舰级规模的 295B 模型,可以在单张 GPU 上运行。👌 使用 llama.cpp 运行 Hy3,启用 MTP,在显著降低的硬件配置上体验强大的智能能力。🚀🚀🚀 迫不及待想看到你们的创作。 #Hy3 #Hy #GGUF #llamacpp