SemiAnalysis 用 43 万次真实编码请求数据揭开了 Agent 推理经济学的真面目,中位输入 9.6 万 token 这个数字足够反直觉,所有做推理服务和模型定价的人都得重新算了。
智能体工作负载正在悄然重塑推理经济学。我们从SemiAnalysis的43.2万个真实编码智能体请求中提取数据,发现中位数并非3.2万或6.4万,而是9.6万输入token。作为参考,这意味着在你输入问题之前,模型已处理了超过《了不起的盖茨比》全文长度的文本。(1/3)🧵
智能体工作负载正在悄然改写推理经济学。我们从 SemiAnalysis 的 43.2 万个真实编码智能体请求中提取了数据,其中位请求输入 token 数不是 3.2 万,也不是 6.4 万,而是 9.6 万。作为背景参照,这意味着在你甚至还没键入问题之前,就相当于把整本《了不起的盖茨比》塞进了模型。 (1/3)🧵