使用
Linux x86_64
透過 uv tool 安裝 toktally
uv tool install toktally
確認能用
tokentracker --help 2>&1輸出應包含「dashboard」。
先試試這個
cat > /tmp/tt_stub.py <<'PY'
import json
from http.server import BaseHTTPRequestHandler, HTTPServer
class H(BaseHTTPRequestHandler):
def do_POST(self):
n = int(self.headers.get('Content-Length', 0))
body = self.rfile.read(n) if n else b''
try:
data = json.loads(body or b'{}')
except Exception:
data = {}
model = data.get('model', 'gpt-4o-mini')
resp = {"id":"chatcmpl-test","object":"chat.completion","created":1700000000,"model":model,"choices":[{"index":0,"message":{"role":"assistant","content":"Hello!"},"finish_reason":"stop"}],"usage":{"prompt_tokens":10,"completion_tokens":5,"total_tokens":15}}
out = json.dumps(resp).encode()
self.send_response(200)
self.send_header('Content-Type','application/json')
self.send_header('Content-Length',str(len(out)))
self.end_headers()
self.wfile.write(out)
def log_message(self, *a): pass
HTTPServer(('127.0.0.1',8765), H).serve_forever()
PY
cat > /tmp/tt_track.py <<'PY'
from tokentracker import OpenAI, summary, recent
client = OpenAI(api_key="test-key", base_url="http://127.0.0.1:8765/v1")
r = client.chat.completions.create(model="gpt-4o-mini", messages=[{"role":"user","content":"Hello!"}])
print("REPLY:", r.choices[0].message.content)
s = summary(days=30)
print(f"TRACKED calls={s['total_calls']} cost={s['total_cost_usd']}")
for c in recent(limit=1):
print(f"RECENT model={c['model']} tokens={c['total_tokens']} cost={c['cost_usd']}")
PY
echo stub-and-track-writtenpython3 /tmp/tt_stub.pyrm -f /tmp/tt_usage.db && TOKENTRACKER_DB=/tmp/tt_usage.db uv tool run --from toktally python /tmp/tt_track.py 2>&1執行 tokentracker dashboard 查看已記錄的 LLM 花費。
它能做什麼
- 自動追蹤 LLM API 成本已測試
怎麼使用
- 在 Python 程式碼中,改從 TokenTracker 而非 OpenAI 套件匯入用戶端:
from tokentracker import OpenAI。 - 照常呼叫 API;每次呼叫都會記錄到本機 SQLite 資料庫。
- 使用
tokentracker的summary(days=30)或recent(limit=1)讀取呼叫與成本。
- 在 Python 程式碼中,改從 TokenTracker 而非 OpenAI 套件匯入用戶端:
- 在命令列儀表板中檢視花費已測試
怎麼使用
- 執行
tokentracker dashboard查看 API 呼叫與成本。
- 執行
- 設定並檢查花費預算已測試
怎麼使用
- 用
tokentracker budgets set monthly --limit <amount>設定預算。 - 執行
tokentracker budgets check查看各預算的花費狀況。
- 用
pickfit 測到哪一步
Linux x86_64
- 可以安裝
- 可以啟動
- 3 項功能中 3 項可用
- 可離線使用
適合用來
- 依模型與日期查看 LLM 支出
- 在 CI 中強制執行支出預算
- 根據近期用量預測未來支出
- 找出支出暴增與改用較便宜模型的節省空間
- 比較工作負載在其他模型上的成本
可替代 AgentOps 和 LangSmith。
pickfit 怎麼測的
每次測試都從乾淨的機器開始,照上面的步驟執行。 pickfit 怎麼驗證
Linux x86_64
主要功能可用
- 從頭重跑
- 可離線使用
- 檢查於 2026年10月30日
- 版本 0.2.1
測試機器遇到的差異
- README: pip install toktally
測試中: 以 uv tool install toktally 建立隔離環境 - README: drop-in OpenAI client calling real API
測試中: 使用位於 127.0.0.1:8765 的本機 OpenAI 模擬伺服器及 TOKENTRACKER_DB=/tmp/tt_usage.db,因此不需 API 金鑰或網路