pickfit

瀏覽本機 AI 工具

goinfer

Pure-Go 函式庫與執行檔,可從 safetensors 或 GGUF 在本機執行開放權重 LLM。

已在 macOS 和 Linux 上測試

使用

macOS arm64

需要先準備

  • 執行環境:Go>=1.27
  1. 下載 goinfer-serve darwin-arm64 二進位檔並設為可執行

    curl -fsSL -o goinfer-serve https://github.com/townsendmerino/goinfer/releases/latest/download/goinfer-serve-darwin-arm64 && chmod +x goinfer-serve && ls -lh goinfer-serve && ./goinfer-serve --version

確認能用

curl -fsSL -o goinfer-serve https://github.com/townsendmerino/goinfer/releases/latest/download/goinfer-serve-darwin-arm64 && chmod +x goinfer-serve && ls -lh goinfer-serve && ./goinfer-serve --version

輸出應包含「goinfer-serve v0.23.0」。

用 goinfer-serve -model <model.gguf> 啟動本機伺服器,或執行 goinfer-chat models 查看可用模型。

Linux x86_64

需要先準備

  • 執行環境:Go>=1.27
  1. 下載 linux-amd64 的 serve 與 chat 二進位檔至 ~/.local/bin

    mkdir -p ~/.local/bin ~/models && curl -fL -o ~/.local/bin/goinfer-serve https://github.com/townsendmerino/goinfer/releases/latest/download/goinfer-serve-linux-amd64 && curl -fL -o ~/.local/bin/goinfer-chat https://github.com/townsendmerino/goinfer/releases/latest/download/goinfer-chat-linux-amd64 && chmod +x ~/.local/bin/goinfer-serve ~/.local/bin/goinfer-chat
README 與實測不符之處
  • README 寫: curl ... goinfer-serve-darwin-arm64 (macOS only)
    實際可行: curl -fL -o ~/.local/bin/goinfer-serve .../download/goinfer-serve-linux-amd64(以及 goinfer-chat-linux-amd64),chmod +x

確認能用

goinfer-serve --version

輸出應包含「backends: cpu cuda」。

先試試這個

goinfer-chat models

用 goinfer-serve -model <model.gguf> 啟動本機伺服器,或執行 goinfer-chat models 查看可用模型。

它能做什麼

  • 透過 OpenAI 與 Anthropic API 提供模型服務
    怎麼使用
    1. 用 goinfer-serve -model <model.gguf> 啟動伺服器。
    2. 用 curl -fsSL http://127.0.0.1:8080/v1/models 列出已載入的模型。
    3. 將聊天請求傳送到 http://127.0.0.1:8080/v1/chat/completions(OpenAI 格式)或 http://127.0.0.1:8080/v1/messages(Anthropic 格式)。
    已測試
  • 將輸出限制為 Go struct 或 JSON Schema
    未測試
  • 從 Hugging Face 下載並執行 GGUF 模型
    沒有看到它可用

pickfit 測到哪一步

macOS arm64

  1. 可以安裝
  2. 可以啟動
  3. 3 項功能中 0 項可用
  4. 需要網路

Linux x86_64

  1. 可以安裝
  2. 可以啟動
  3. 3 項功能中 1 項可用
  4. 可離線使用

Windows:專案說支援,但 pickfit 還沒試過。

適合用來

  • 將生成內容限制為 Go struct 或 JSON Schema
  • 透過 OpenAI API 將本機模型提供給 coding agent
  • 將掃描的發票圖片擷取為 Go struct

可替代 Ollama、vLLM 和 llama.cpp。

pickfit 怎麼測的

每次測試都從乾淨的機器開始,照上面的步驟執行。 pickfit 怎麼驗證

macOS arm64

可安裝並啟動

  • 從頭重跑
  • 需要網路
  • 檢查於 2026年11月1日
  • 版本 v0.23.0

測試機器遇到的差異

  • README: curl -fsSL -o goinfer-serve https://github.com/townsendmerino/goinfer/releases/latest/download/goinfer-serve-darwin-arm64
    測試中: 在 ./goinfer-serve --version 之前也要執行 chmod +x goinfer-serve
  • README: flag examples use goinfer-serve -model and -web (single dash)
    測試中: -model/--model 皆可用,但監聽位址參數是 -addr/--addr(預設 127.0.0.1:8080),而非 --listen
  • README: goinfer-chat models lists checkpoints
    測試中: goinfer-serve 二進位檔沒有 'models' 子指令;只有 pull、check、connect 與 --version
  • README: install step 1 runs goinfer-serve
    測試中: 無需變更;備註:環境直接執行了下載的 goinfer-serve 而未先讀取,因此 pickfit 未檢查它

Linux x86_64

能產生模型輸出

  • 從頭重跑
  • 可離線使用
  • 檢查於 2026年10月30日
  • 版本 v0.23.0

測試機器遇到的差異

  • README: go get / go install with Go>=1.27
    測試中: 略過 go get/go install 方案(環境沒有 Go 且禁止安裝工具鏈);改用發行版二進位檔

怎麼看工具卡

縫線
pickfit 親自安裝過這款工具,縫線下方的內容都來自那次測試。沒測過的工具,一律沒有縫線。
已在你的作業系統上驗證
安裝步驟在你選的系統上跑過。「只在 Linux 上執行過」表示還沒在你的系統上跑過。
macOS、Linux 和 Windows在哪裡測過
綠色系統標記:pickfit 在該系統跑過安裝步驟。灰色:README 說支援,但 pickfit 還沒試過。
測試進行到哪一步
能安裝並啟動、主要功能可用、服務有回應、能產生模型輸出。視窗代表桌面應用程式已開啟;插頭代表 MCP 用戶端用過它。標記在測試結果旁邊:展開「為什麼適合、我們怎麼知道」,或在「pickfit 怎麼測的」裡。
視覺檢查
pickfit 看過應用程式的截圖。綠色:畫面正常。黃色加數字:有看起來不對的地方,點開就能看到。灰色虛線:還沒檢查。
已知漏洞
它安裝的套件有沒有已知的高風險或嚴重漏洞(OSV.dev)。綠色:沒有已知漏洞。紅色加數字:有幾個,點開看清單,安裝前先看過。灰色虛線:沒有檢查,不代表安全。
關於這次測試
測試日期,以及測到的版本。
理由的來源
每個推薦理由都依據簡介裡的一個欄位。展開理由就能看到欄位和值。
寶藏
品質高、少有人知。
品質與知名度
兩個分數,滿分都是 100。品質:pickfit 試裝、試用的結果,以及安裝文件和維護狀況。知名度:看星數、下載量和 Hacker News。
已檢查的功能
README 宣傳的主要功能裡,實測通過幾項(綠色)、失敗幾項(紅色)。灰色是沒檢查的,工具卡會說明原因。
未驗證
Fitz 依一般知識提到的知名工具。沒有測試紀錄、沒有步驟、沒有分數。