pickfit

瀏覽本機 AI 工具

quantpicker

在你的 GPU 上測量 GGUF 量化版本的執行速度與品質損失,以挑選可接受的最快版本。

已在 macOS 和 Linux 上測試

使用

macOS arm64

需要先準備

  • 可選用 GPU
  • 需要網路
  • 金鑰或帳號:HF_TOKEN
  1. 透過 uv tool install 安裝 quantpicker

    uv tool install quantpicker

確認能用

quantpicker search qwen3 8b 2>&1

輸出應包含「Qwen/Qwen3-8B-GGUF」。

先試試這個

quantpicker search qwen3 8b 2>&1

執行 quantpicker search <model name>,在 Hugging Face 上尋找 GGUF 儲存庫。

Linux x86_64

需要先準備

  • 可選用 GPU
  • 需要網路
  • 金鑰或帳號:HF_TOKEN
  1. 透過 uv tool 安裝 quantpicker

    uv tool install quantpicker

確認能用

quantpicker --help 2>&1

輸出應包含「Measures which GGUF quant」。

先試試這個

quantpicker search qwen3 8b 2>&1

執行 quantpicker search <model name>,在 Hugging Face 上尋找 GGUF 儲存庫。

它能做什麼

  • 測量 GGUF 量化版本並挑出最快的
    怎麼使用
    1. 以 Hugging Face GGUF 儲存庫執行 quantpicker <repo> --quants Q4_K_M,Q5_K_M --chunks 5 --reps 1。
    2. 比較各量化版本顯示的 tok/s 速度與平均 KLD。
    已測試
  • 在 Hugging Face 搜尋 GGUF 儲存庫
    怎麼使用
    1. 執行 quantpicker search <your search words>。
    2. 查看列出儲存庫及其下載數與按讚數的表格。
    已測試
  • 列出量化版本並查看哪些適合你的 GPU
    怎麼使用
    1. 執行 quantpicker list <repo>。
    2. 查看 size 與 fits 欄位,以及預設會測量哪些量化版本。
    已測試

pickfit 測到哪一步

macOS arm64

  1. 可以安裝
  2. 可以啟動
  3. 3 項功能中 2 項可用
  4. 需要網路

Linux x86_64

  1. 可以安裝
  2. 可以啟動
  3. 3 項功能中 3 項可用
  4. 需要網路

Windows:專案說支援,但 pickfit 還沒試過。

適合用來

  • 測量 GGUF 量化版本並挑出品質限制內最快者
  • 在 Hugging Face 上尋找 GGUF 儲存庫
  • 列出量化版本並在不下載的情況下檢查是否符合 GPU 記憶體

pickfit 怎麼測的

每次測試都從乾淨的機器開始,照上面的步驟執行。 pickfit 怎麼驗證

macOS arm64

主要功能可用

  • 從頭重跑
  • 需要網路
  • 檢查於 2026年11月1日
  • 版本 0.1.0

Linux x86_64

主要功能可用

  • 從頭重跑
  • GPU:Tesla T4
  • 需要網路
  • 檢查於 2026年11月1日
  • 版本 0.1.0

測試機器遇到的差異

  • README: pip install quantpicker
    測試中: uv tool install quantpicker(隔離安裝,避開 PEP 668 唯讀系統限制)
  • README: quantpicker unsloth/Qwen3-8B-GGUF
    測試中: 為配合機器的時間與磁碟限制,對 bartowski/SmolLM2-135M-Instruct-GGUF 執行 measure,參數為 --quants Q4_K_M,Q5_K_M --chunks 5 --reps 1;README 範例使用 unsloth/Qwen3-8B-GGUF(每個量化版本約 3-8 GiB)

怎麼看工具卡

縫線
pickfit 親自安裝過這款工具,縫線下方的內容都來自那次測試。沒測過的工具,一律沒有縫線。
已在你的作業系統上驗證
安裝步驟在你選的系統上跑過。「只在 Linux 上執行過」表示還沒在你的系統上跑過。
macOS、Linux 和 Windows在哪裡測過
綠色系統標記:pickfit 在該系統跑過安裝步驟。灰色:README 說支援,但 pickfit 還沒試過。
測試進行到哪一步
能安裝並啟動、主要功能可用、服務有回應、能產生模型輸出。視窗代表桌面應用程式已開啟;插頭代表 MCP 用戶端用過它。標記在測試結果旁邊:展開「為什麼適合、我們怎麼知道」,或在「pickfit 怎麼測的」裡。
視覺檢查
pickfit 看過應用程式的截圖。綠色:畫面正常。黃色加數字:有看起來不對的地方,點開就能看到。灰色虛線:還沒檢查。
已知漏洞
它安裝的套件有沒有已知的高風險或嚴重漏洞(OSV.dev)。綠色:沒有已知漏洞。紅色加數字:有幾個,點開看清單,安裝前先看過。灰色虛線:沒有檢查,不代表安全。
關於這次測試
測試日期,以及測到的版本。
理由的來源
每個推薦理由都依據簡介裡的一個欄位。展開理由就能看到欄位和值。
寶藏
品質高、少有人知。
品質與知名度
兩個分數,滿分都是 100。品質:pickfit 試裝、試用的結果,以及安裝文件和維護狀況。知名度:看星數、下載量和 Hacker News。
已檢查的功能
README 宣傳的主要功能裡,實測通過幾項(綠色)、失敗幾項(紅色)。灰色是沒檢查的,工具卡會說明原因。
未驗證
Fitz 依一般知識提到的知名工具。沒有測試紀錄、沒有步驟、沒有分數。