一款开源路由框架(非API售卖),让用户自行申请各厂商免费API密钥,通过配置实现自动负载均衡与故障切换,从而零成本使用10亿+免费LLM Token。操作极简:克隆仓库、填入密钥、将应用指向本地端点,30秒即可运行,无需手写回退逻辑。项目几周前刚发布,作者开放改进建议,GitHub链接见评论。
卧槽这个必须分享,一个开源工具,让你用免费 API 密钥池跑出企业级路由的效果,
等于是零成本撸10亿+免费LLM Token,要把把付费网关干碎的节奏,
对比一下:高容量令牌和企业路由,0,
原理很简单,它是个路由框架,不是卖 API 的, 你需要自己去各厂商申请免费密钥,然后填进配置, 工具自动帮你做负载均衡和自动故障切换,
30 秒能跑起来:克隆仓库,配好密钥,把应用指向本地端点,完事, 免费额度用满、用稳,不用自己写回退逻辑,
项目几周前刚发布,现在入坑还能直接给作者提改进意见, GitHub 链接放评论区 👇 有用的记得给仓库加星。