Cấu hình nâng cao & tiết kiệm chi phí
Chọn model phù hợp, cấu hình fallback, và tối ưu chi phí sử dụng API.
Cấu hình Model
# config.yaml
models:
primary: gpt-4o-mini # Nhanh, rẻ
fallback: claude-3-haiku # Backup
local: ollama/llama3 # Offline, miễn phí
cost_limit:
daily: 1.00 # USD
monthly: 20.00 Mẹo:
Dùng model local cho tác vụ đơn giản (tóm tắt, dịch) và model cloud cho tác vụ phức tạp (code, phân tích).
Lưu ý:
Luôn set cost_limit để tránh bill bất ngờ khi dùng API trả phí.