公众号正文需在微信内阅读,站内仅提供摘要。
MiniMax H3 开源首周 AMA:技术团队回应稀疏注意力、长视频续写与推理优化
AI 导读
MiniMax H3 技术团队在 Reddit AMA 和 ComfyUI 直播中回应开发者提问:模型不使用 MSA,稀疏注意力策略更接近 MoBA,默认仅对视频 token 做 3D sparsification,近期将发布保守版本。
公众号正文需在微信内阅读,站内仅提供摘要。
来源:公众号:MiniMax(稀宇科技)· mp.weixin.qq.com