速率限制層級
速率限制以 API 密鑰為單位,使用 60 秒滑動窗口進行強制執行。每個密鑰都有一個層級,用於決定其限制額度:
所有新創建的 API 密鑰都從免費版層級開始。
各模式限制
開銷較大的模式設有更低的 RPM 上限,其數值按你所在層級的基礎 RPM 按比例縮放:
儀表盤會話的限制固定為 120 RPM。
如何提高你的限額
查看當前限額
申請層級升級
rate_limit.upgraded webhook 通知。
信用額度餘額
除了請求速率限制外,每個賬戶還擁有一個信用額度餘額。當餘額降至零時,後續請求會返回402 insufficient_credits,直至你完成充值為止。
處理 429 響應
當觸發速率限制時,API 會返回:- 狀態碼 429,並附帶以下三種代碼之一:
rate_limit_exceeded— 超出通用 RPM 限制mode_rate_limit_exceeded— 超出各模式的 RPM 限制token_limit_exceeded— 超出 TPM 限制
Retry-After響應頭 — 指示重試前需等待的秒數
maxRetries 配置)自動處理這一情況。
