使用合適的模式
技巧
- 為簡單任務設置
mode: "fast"—— 會路由到 Theo Flash(最便宜的選項) - 使用語義緩存 —— 相同請求在首次調用之後即為免費
- 監控用量 ——
GET /api/v1/usage可顯示按模式和模型劃分的成本明細 - 設置每日上限 —— 在計費儀表盤中配置支出限額
- 按請求使用技能,而不是一次性安裝全部技能——技能越少,提示詞令牌消耗越少
- 降低
max_iterations—— 如果你知道任務只需要 1-2 次工具調用,可將其設置為max_iterations: 3
