Qwen@Alibaba_Qwen · X可解释性工具从学术走向工程，Qwen-Scope 把内部特征操控、数据合成、问题溯源打包成套装，做模型调试和长尾优化的团队值得立刻上手试试。
Qwen团队推出开源稀疏自编码器套件Qwen-Scope，将SAE特征转化为实用工具。该套件支持四大应用方向：无需提示工程即可通过直接操控内部特征引导模型输出；用极少样本对目标数据进行分类与合成，提升长尾能力；追踪代码切换和重复生成问题的根源并进行修复；通过分析特征激活模式优化评测基准并减少冗余。团队希望社区利用Qwen-Scope深入探索Qwen模型内部机制，并开发出超越现有研究范围的应用。相关资源已开放。
今天我们发布了 Qwen-Scope 🔭，一个面向 Qwen 模型族的开源稀疏自编码器工具套件。它将 SAE 特征转化为实用工具：
🎯 推理——通过直接操控内部特征来引导模型输出，无需提示词工程 📂 数据——用极少的种子样本对目标数据进行分类和合成，提升长尾能力 🏋️ 训练——将代码切换与重复生成追溯至其根源，从根上修复 📊 评估——分析特征激活模式，从而选择更智能的基准，减少冗余
我们希望社区能使用 Qwen-Scope 发掘 Qwen 模型内部的新的运作机制，并构建出超越我们当前探索范畴的应用。期待看到你们的成果！🚀
🔗🔗 博客：https://qwen.ai/blog?id=qwen-scope HuggingFace：https://huggingface.co/collections/Qwen/qwen-scope ModelScope：https://modelscope.cn/collections/Qwen/Qwen-Scope 技术报告：https://qianwen-res.oss-accelerate.aliyuncs.com/qwen-scope/Qwen_Scope.pdf