Skip to main content

速率限制层级

速率限制以 API 密钥为单位,使用 60 秒滑动窗口进行强制执行。每个密钥都有一个层级,用于决定其限制额度: 所有新创建的 API 密钥都从免费版层级开始。

各模式限制

开销较大的模式设有更低的 RPM 上限,其数值按你所在层级的基础 RPM 按比例缩放: 仪表盘会话的限制固定为 120 RPM。

如何提高你的限额

查看当前限额

申请层级升级

申请将由 Theo 平台团队审核。获批后你会收到一个 rate_limit.upgraded webhook 通知。

信用额度余额

除了请求速率限制外,每个账户还拥有一个信用额度余额。当余额降至零时,后续请求会返回 402 insufficient_credits,直至你完成充值为止。

处理 429 响应

当触发速率限制时,API 会返回:
  • 状态码 429,并附带以下三种代码之一:
    • rate_limit_exceeded — 超出通用 RPM 限制
    • mode_rate_limit_exceeded — 超出各模式的 RPM 限制
    • token_limit_exceeded — 超出 TPM 限制
  • Retry-After 响应头 — 指示重试前需等待的秒数
SDK 会通过指数退避(可通过 maxRetries 配置)自动处理这一情况。

响应头

每个响应都包含反映你所在层级实际限额的速率限制响应头: