Skip to main content

速率限制層級

速率限制以 API 密鑰為單位,使用 60 秒滑動窗口進行強制執行。每個密鑰都有一個層級,用於決定其限制額度: 所有新創建的 API 密鑰都從免費版層級開始。

各模式限制

開銷較大的模式設有更低的 RPM 上限,其數值按你所在層級的基礎 RPM 按比例縮放: 儀表盤會話的限制固定為 120 RPM。

如何提高你的限額

查看當前限額

申請層級升級

申請將由 Theo 平台團隊審核。獲批後你會收到一個 rate_limit.upgraded webhook 通知。

信用額度餘額

除了請求速率限制外,每個賬戶還擁有一個信用額度餘額。當餘額降至零時,後續請求會返回 402 insufficient_credits,直至你完成充值為止。

處理 429 響應

當觸發速率限制時,API 會返回:
  • 狀態碼 429,並附帶以下三種代碼之一:
    • rate_limit_exceeded — 超出通用 RPM 限制
    • mode_rate_limit_exceeded — 超出各模式的 RPM 限制
    • token_limit_exceeded — 超出 TPM 限制
  • Retry-After 響應頭 — 指示重試前需等待的秒數
SDK 會通過指數退避(可通過 maxRetries 配置)自動處理這一情況。

響應頭

每個響應都包含反映你所在層級實際限額的速率限制響應頭: