pickfit 測到哪一步
pickfit 還沒驗證過 PegaInfer,所以沒有測過的安裝步驟。
以下只依據它的 README。
使用
安裝前先知道:有已知漏洞
pickfit 在安裝時會一併裝上的套件裡找到 2 個已知的高風險或嚴重漏洞(OSV.dev,2026年11月3日),安裝前請先考慮。
crates:pulldown-cmark 0.13.3使用 `ENABLE_WIKILINKS` 時事件呈指數成長 (RUSTSEC-2026-0414,高風險,0.13.5 已修正)
再看 1 個
crates:pulldown-cmark 0.13.3— RUSTSEC-2026-0433(高風險),0.13.6 已修正
需要先準備
- 系統套件:
CUDA Toolkit with nvcc and cuBLAS - 需要 GPU
它能做什麼
pickfit 還沒測過它,所以以下只依據 README。
- 透過 OpenAI 相容 API 提供 LLM 服務未測試
- 提供 completions 與 chat completions未測試
- 張量並行、前綴快取與取樣未測試
適合用來
- 在本機提供 Qwen3-4B 模型服務
可替代 vLLM。