使用
安裝前先知道:有已知漏洞
pickfit 在安裝時會一併裝上的套件裡找到 1 個已知的高風險或嚴重漏洞(OSV.dev,2026年11月3日),安裝前請先考慮。
crates:rustls-webpki 0.103.10rustls-webpki:透過格式錯誤的 CRL BIT STRING 造成 panic 而導致阻斷服務 (GHSA-82j2-j2ch-gfr8,高風險,0.103.13 已修正)
Linux x86_64
需要先準備
- 可選用 GPU
- 需要網路
下載安裝腳本
curl -fsSL -o /tmp/install.sh https://servelumen.com/install.sh透過腳本安裝 lumen 執行檔
bash /tmp/install.sh
確認能用
lumen --version輸出應包含「lumen v0.51.0」。
先試試這個
lumen pull qwen3.5-9b:q4_0 --yeslumen-server qwen3.5-9b:q4_0 --port 8000curl -fsSL http://127.0.0.1:8000/v1/models它能做什麼
適合用來
- 以本機 Qwen 模型依提示產生文字
- 提供支援串流的 OpenAI 相容 chat completions
- 依文字提示產生圖片
可替代 llama.cpp。
pickfit 測到哪一步
Linux x86_64
- 可以安裝
- 可以啟動
- 能產生輸出
- 可離線使用
macOS:專案說支援,但 pickfit 還沒試過。
pickfit 怎麼測的
每次測試都從乾淨的機器開始,照上面的步驟執行。 pickfit 怎麼驗證
Linux x86_64
能產生模型輸出
- 從頭重跑
- GPU:Tesla T4
- 可離線使用
- 檢查於 2026年11月1日
- 版本 v0.51.0
測試機器遇到的差異
- README: curl -fsSL https://servelumen.com/install.sh | bash
測試中: 以 curl -fsSL -o /tmp/install.sh 下載,完整閱讀 /tmp/install.sh,再執行 bash /tmp/install.sh - README: no CUDA SDK needed
測試中: 由於沙箱有驅動程式但沒有 CUDA toolkit,安裝程式自動下載 NVIDIA NVRTC + cuBLAS 12.9(670 MB)至 ~/.local/lib/lumen - README: lumen run qwen3.5-9b:q8_0
測試中: 使用 qwen3.5-9b:q4_0(約 5.5 GB LBC)而非 README 的 q8_0;Q4_0 是 9B 最小的量化版本,且已在 T4 cc 7.5 上驗證