速率限制层级
速率限制以 API 密钥为单位,使用 60 秒滑动窗口进行强制执行。每个密钥都有一个层级,用于决定其限制额度:
所有新创建的 API 密钥都从免费版层级开始。
各模式限制
开销较大的模式设有更低的 RPM 上限,其数值按你所在层级的基础 RPM 按比例缩放:
仪表盘会话的限制固定为 120 RPM。
如何提高你的限额
查看当前限额
申请层级升级
rate_limit.upgraded webhook 通知。
信用额度余额
除了请求速率限制外,每个账户还拥有一个信用额度余额。当余额降至零时,后续请求会返回402 insufficient_credits,直至你完成充值为止。
处理 429 响应
当触发速率限制时,API 会返回:- 状态码 429,并附带以下三种代码之一:
rate_limit_exceeded— 超出通用 RPM 限制mode_rate_limit_exceeded— 超出各模式的 RPM 限制token_limit_exceeded— 超出 TPM 限制
Retry-After响应头 — 指示重试前需等待的秒数
maxRetries 配置)自动处理这一情况。
