产品与商业

速率限制

Rate Limit

对单位时间内的请求数或 token 数设上限。

又称 Rate Limit 限流 429

本词条最后核验 2026-11-21 · 由本站编辑整理,欢迎指正

01 详细解释

通常分三层:每分钟请求数(RPM)、每分钟 token 数(TPM)、以及并发数。超限会返回 429,需要指数退避重试。

上线前必须压测:按峰值并发算需要的配额,提前申请提升。很多「偶发失败」其实是限流,不是模型不稳。

02 什么时候会碰到它
采购、报价、谈合规与续约时

每百万 token 多少钱只是表面。定价方式、SLA、数据驻留、模型下线与供应商锁定,才是合同里真正影响长期成本的部分。

03 和这几个词怎么区分
04 接着读这几篇
05 用得到的工具

下面这些站点来自 AI 导航(nav.ppv9.com)的同一份工具清单,按本词条的相关度挑选。

小7分享网 · 聚焦 AI 的实用博客

每天一篇,跟进 AI 行业动态、实测新工具、拆解实战教程。不堆术语,不炒概念,只写真正用得上的内容。

浏览全部文章关于本站

欢迎回来

登录 小7分享网,继续你的精彩

还没有账号?立即注册

忘记密码 ?

创建账号

注册后即可体验完整功能

已有账号?直接登录

我们将发送一封验证邮件至你的邮箱, 请正确填写以完成账号注册和激活