我们刚刚为 Gemini Batch API 完成了一些重大的基础架构升级： - p95 延迟降低 80% - p99 延迟降低 68% - 批量成功率现已超过 99.998% - 批量过期减少 98% - 新增对部分批次的支持 团队完成这项工作太棒了！！
Logan Kilpatrick@OfficialLoganK我们刚刚为 Gemini Batch API 完成了一些重大的基础架构升级： - p95 延迟降低 80% - p99 延迟降低 68% - 批量成功率现已超过 99.998% - 批量过期减少 98% - 新增对部分批次的支持 团队完成这项工作太棒了！！
We just landed some big infra upgrades for the Gemini Batch API:
• p95 latency decreased by 80% -p99 latency decreased by 68% • batch success rate is now >99.998% • 98% reduction in batch expirations • added support for partial batches
great work by the team to land this!!
来源：Logan Kilpatrick· x.com