精选理由
MiniCPM-V 4.6 现在 vLLM 原生支持,不用自己折腾编译和环境了,做多模态部署的可以无痛接入,国产端侧模型生态又往前走了一步。
AI 摘要
MiniCPM-V 4.6 现已完全支持 vLLM v0.22.0! 无需自定义分支,无需额外编译。 只需拉取预构建包即可运行。 非常感谢 @vllm_project 的顺畅集成! 🤝 🤗 http://huggingface.co/openbmb/MiniCPM-V-4.6
AI 翻译 · 中文
MiniCPM-V 4.6 现已完整支持 vLLM v0.22.0! 无需自定义分支。无需额外编译。 只需拉取预构建包并运行。 非常感谢 @vllm_project 的顺畅集成!🤝 🤗 http://huggingface.co/openbmb/MiniCPM-V-4.6