注意!如果你希望大模型的回答有丰富的多样性。
千万不能要求输出 JSON 或 XML 这种格式。
刚读到一篇论文,测试了44个模型得出的结论。
JSON 和 XML 是结构化输出的标准格式。
模型在后训练阶段接受了大量这类数据强化,这套模式天然倾向于给"标准答案"。
论文见评论区
一篇测试44个模型的论文发现,要求输出JSON或XML格式会显著降低大语言模型回答的多样性。模型在后训练阶段接受了大量结构化数据强化,天然倾向于给出“标准答案”,从而抑制了输出的丰富性。
注意!如果你希望大模型的回答有丰富的多样性。
千万不能要求输出 JSON 或 XML 这种格式。
刚读到一篇论文,测试了44个模型得出的结论。
JSON 和 XML 是结构化输出的标准格式。
模型在后训练阶段接受了大量这类数据强化,这套模式天然倾向于给"标准答案"。
论文见评论区
一篇测试44个模型的论文发现,要求输出JSON或XML格式会显著降低大语言模型回答的多样性。模型在后训练阶段接受了大量结构化数据强化,天然倾向于给出“标准答案”,从而抑制了输出的丰富性。
注意!如果你希望大模型的回答有丰富的多样性。
千万不能要求输出 JSON 或 XML 这种格式。
刚读到一篇论文,测试了44个模型得出的结论。
JSON 和 XML 是结构化输出的标准格式。
模型在后训练阶段接受了大量这类数据强化,这套模式天然倾向于给"标准答案"。
论文见评论区