pickfit

瀏覽本機 AI 工具

Narwhal

可分離式 LLM 推論框架,無需重新載入權重即可熱切換 prefill 與 decode 角色。

已在 Linux 上測試

使用

Linux x86_64

需要先準備

  • 執行環境:python>=3.11
  • 需要 GPU
  1. 使用 uv tool install 安裝 narwhal-inference

    uv tool install narwhal-inference
README 與實測不符之處
  • README 寫: narwhal dev init then narwhal dev status
    實際可行: 即使建立了 ~/.cache/huggingface 與 ~/.cache/huggingface/hub,`narwhal dev init` 仍以代碼 2 結束,並對 `~/.cache/huggingface/hub/models--Qwen--Qwen3.5-0.8B` 回報 FileNotFound;未先成功 init 就執行 `narwhal dev status` 會以代碼 2 結束,缺少 runs/dev/instance.json。

確認能用

narwhal-serve --version

輸出應包含「narwhal-inference 0.8.0」。

它能做什麼

以下依據 README;pickfit 沒有逐項檢查。

  • 免重新載入即可切換 prefill 與 decode 角色
    未測試
  • 處理補全與對話請求
    未測試
  • 分析引擎效能並執行基準測試
    未測試
  • 將指標匯出至 Prometheus 與 Grafana
    未測試

pickfit 測到哪一步

Linux x86_64

  1. 可以安裝
  2. 可以啟動
  3. 還沒實際使用
  4. 可離線使用

適合用來

  • 以串流或緩衝方式處理 completion 與 chat 請求
  • 在 GPU 叢集間重新分配 prefill 與 decode 角色
  • 剖析引擎並依序執行基準測試點

pickfit 怎麼測的

每次測試都從乾淨的機器開始,照上面的步驟執行。 pickfit 怎麼驗證

Linux x86_64

可安裝並啟動

  • 從頭重跑
  • 可離線使用
  • 檢查於 2026年10月30日
  • 版本 0.8.0

怎麼看工具卡

縫線
pickfit 親自安裝過這款工具,縫線下方的內容都來自那次測試。沒測過的工具,一律沒有縫線。
已在你的作業系統上驗證
安裝步驟在你選的系統上跑過。「只在 Linux 上執行過」表示還沒在你的系統上跑過。
macOS、Linux 和 Windows在哪裡測過
綠色系統標記:pickfit 在該系統跑過安裝步驟。灰色:README 說支援,但 pickfit 還沒試過。
測試進行到哪一步
能安裝並啟動、主要功能可用、服務有回應、能產生模型輸出。視窗代表桌面應用程式已開啟;插頭代表 MCP 用戶端用過它。標記在測試結果旁邊:展開「為什麼適合、我們怎麼知道」,或在「pickfit 怎麼測的」裡。
視覺檢查
pickfit 看過應用程式的截圖。綠色:畫面正常。黃色加數字:有看起來不對的地方,點開就能看到。灰色虛線:還沒檢查。
已知漏洞
它安裝的套件有沒有已知的高風險或嚴重漏洞(OSV.dev)。綠色:沒有已知漏洞。紅色加數字:有幾個,點開看清單,安裝前先看過。灰色虛線:沒有檢查,不代表安全。
關於這次測試
測試日期,以及測到的版本。
理由的來源
每個推薦理由都依據簡介裡的一個欄位。展開理由就能看到欄位和值。
寶藏
品質高、少有人知。
品質與知名度
兩個分數,滿分都是 100。品質:pickfit 試裝、試用的結果,以及安裝文件和維護狀況。知名度:看星數、下載量和 Hacker News。
已檢查的功能
README 宣傳的主要功能裡,實測通過幾項(綠色)、失敗幾項(紅色)。灰色是沒檢查的,工具卡會說明原因。
未驗證
Fitz 依一般知識提到的知名工具。沒有測試紀錄、沒有步驟、沒有分數。