经过三天的不懈努力，将缓存命中率提升到 96%，输出 / 输入 比例提升 2.5 倍。请求数、输出数不变的情况下，成本降低 3.2 倍。这一切都是因为被梁文峰谷 + 大涨价割麻了，倒逼出无解优化。主要功劳是 Observational Memory 概念，简称 OM，参考文章 https://mastra.ai/docs/memory/observational-memory
缓存命中率96%成本降3.2倍
AI 导读
经三天优化，缓存命中率提升至96%，输出/输入比例提升2.5倍，在请求数与输出数不变的情况下成本降低3.2倍。优化核心是采用 Observational Memory（OM）概念，参考 Mastra 文档。此举源于被梁文峰谷+大涨价倒逼出的极限优化。
赵纯想@chunxiangai47
AI 编辑部评分，满分 100缓存命中率96%成本降3.2倍
经三天优化，缓存命中率提升至96%，输出/输入比例提升2.5倍，在请求数与输出数不变的情况下成本降低3.2倍。优化核心是采用 Observational Memory（OM）概念，参考 Mastra 文档。此举源于被梁文峰谷+大涨价倒逼出的极限优化。
来源：赵纯想· x.com