使用
安裝前先知道:有已知漏洞
pickfit 在安裝時會一併裝上的套件裡找到 13 個已知的高風險或嚴重漏洞(OSV.dev,2026年11月3日),安裝前請先考慮。
go:golang.org/x/crypto v0.51.0golang.org/x/crypto 因未強制執行 @revoked 狀態而存在驗證繞過弱點 (GHSA-5cgq-3rg8-m6cv,嚴重,0.52.0 已修正)go:github.com/go-jose/go-jose/v4 v4.1.4Go JOSE:解析包含 RSA 金鑰的 JWK 時發生 DoS (GHSA-mgcc-cww5-fp2q,高風險,4.1.6 已修正)
再看 8 個
go:golang.org/x/crypto v0.51.0— GHSA-89gr-r52h-f8rx(嚴重),0.52.0 已修正go:golang.org/x/crypto v0.51.0— GHSA-f5wc-c3c7-36mc(嚴重),0.52.0 已修正go:golang.org/x/crypto v0.51.0— GHSA-jppx-rxg9-jmrx(嚴重),0.52.0 已修正go:golang.org/x/crypto v0.51.0— GHSA-rm3j-f69w-wqmq(嚴重),0.52.0 已修正go:golang.org/x/crypto v0.51.0— GHSA-vgwf-h737-ff37(嚴重),0.52.0 已修正go:golang.org/x/crypto v0.51.0— GHSA-x527-x647-q7gg(嚴重),0.52.0 已修正go:golang.org/x/crypto v0.51.0— GHSA-q4h4-gmj2-qvw2(高風險),0.52.0 已修正go:golang.org/x/crypto v0.51.0— GHSA-w879-237q-wc7r(高風險),0.52.0 已修正
另有 3 筆未列出。
Linux x86_64
需要先準備
- 可選用 GPU
透過 uv tool 從 git 子目錄安裝 vortelio
uv tool install "git+https://github.com/metiutek/Vortelio#subdirectory=vortelio-pip"
README 與實測不符之處
- README 寫: uv tool install "git+https://github.com/metiu1/Vortelio#subdirectory=vortelio-pip" (ranking used metiu1)
實際可行: 正確的 GitHub 擁有者是 metiutek,URL https://github.com/metiutek/Vortelio 可用;誤植的 metiu1 會失敗
確認能用
curl -s http://localhost:11500/v1/chat/completions -H "Content-Type: application/json" -d '{"model":"bartowski--smollm2-135m-instruct-gguf:q8-0","messages":[{"role":"user","content":"Hello"}],"temperature":0,"max_tokens":16}' 2>&1輸出應包含「"object":"chat.completion"」。
先試試這個
vortelio pull "llm/hf.co/bartowski/SmolLM2-135M-Instruct-GGUF:SmolLM2-135M-Instruct-Q8_0.gguf" 2>&1vortelio serve --port 11500curl -s http://localhost:11500/v1/chat/completions -H "Content-Type: application/json" -d '{"model":"bartowski--smollm2-135m-instruct-gguf:q8-0","messages":[{"role":"user","content":"Hello"}],"temperature":0,"max_tokens":16}' 2>&1執行 vortelio serve --port 11500 啟動本機伺服器,然後將請求傳送到 http://localhost:11500。
它能做什麼
- 在自己的電腦上執行 LLM已測試
怎麼使用
- 用
vortelio pull "llm/hf.co/<repo>:<model file>.gguf"下載模型。 - 用
vortelio serve --port 11500啟動伺服器。 - 用
curl -s http://localhost:11500/v1/chat/completions -H "Content-Type: application/json" -d '{"model":"<model name>","messages":[{"role":"user","content":"<your text>"}]}'傳送聊天請求。
- 用
- 用 Stable Diffusion 產生圖片未測試
- 用 Whisper 離線轉錄音訊未測試
- 在自己的電腦上產生影片未測試
pickfit 測到哪一步
Linux x86_64
- 可以安裝
- 可以啟動
- 4 項功能中 1 項可用
- 可離線使用
macOS 和 Windows:專案說支援,但 pickfit 還沒試過。
適合用來
- 在本機執行 LLM
- 用 Stable Diffusion 在本機生成圖片
- 用 Whisper 離線轉錄音訊
- 在本機生成影片
- 從文字或圖片生成 3D 模型
可替代 Ollama、LM Studio 和 ComfyUI。