Skip to main content

使用合適的模式

技巧

  1. 為簡單任務設置 mode: "fast" —— 會路由到 Theo Flash(最便宜的選項)
  2. 使用語義緩存 —— 相同請求在首次調用之後即為免費
  3. 監控用量 —— GET /api/v1/usage 可顯示按模式和模型劃分的成本明細
  4. 設置每日上限 —— 在計費儀表盤中配置支出限額
  5. 按請求使用技能,而不是一次性安裝全部技能——技能越少,提示詞令牌消耗越少
  6. 降低 max_iterations —— 如果你知道任務只需要 1-2 次工具調用,可將其設置為 max_iterations: 3