pickfit

瀏覽本機 AI 工具

InferBridge

以 Intel OpenVINO GenAI 為基礎、優先支援 Windows 的 OpenAI 相容本機 LLM 伺服器,內建聊天介面與模型工具。

已在 Linux 上測試

使用

Linux x86_64

  1. 複製 InferBridge 原始碼

    rm -rf /tmp/ib2 && git clone https://github.com/Quazmoz/InferBridge.git /tmp/ib2 && cp -r /tmp/ib2/. ./
  2. 以 pip 可編輯模式安裝開發相依套件

    pip install -e .[dev]
README 與實測不符之處
  • README 寫: `pip install -e .[dev]` then `.\start_server.bat --mock` / `.\start_server.bat --check-devices`
    實際可行: 在 Linux 上使用 `OV_LLM_MOCK=1 python -m app.server --mock --host 127.0.0.1 --port 8123 --model tinyllama-1.1b-chat-fp16`(已安裝的 `inferbridge` CLI 用法相同);`start_server.sh --mock` 需要由 `./setup.sh --minimal` 建立的 `.venv`,而 `start_server.bat` 僅適用於 Windows。

確認能用

inferbridge --help

輸出應包含「usage: inferbridge」。

先試試這個

OV_LLM_MOCK=1 python -m app.server --mock --host 127.0.0.1 --port 8123 --model tinyllama-1.1b-chat-fp16
curl -sf http://127.0.0.1:8123/health/ready

伺服器執行後,以 curl -sf http://127.0.0.1:8123/health/ready 確認是否就緒。

它能做什麼

以下依據 README;pickfit 沒有逐項檢查。

  • 透過相容 OpenAI 的 API 提供本機 LLM
    未測試
  • 在瀏覽器中以串流回覆聊天
    未測試
  • 與本機視覺語言模型聊天
    未測試
  • 在本機產生文字嵌入
    未測試

pickfit 測到哪一步

Linux x86_64

  1. 可以安裝
  2. 可以啟動
  3. 能回應請求
  4. 可離線使用

Windows:專案說支援,但 pickfit 還沒試過。

適合用來

  • 透過 OpenAI 相容的 chat completions 與本機 LLM 聊天
  • 在本機產生文字嵌入
  • 使用圖片與本機視覺語言模型聊天
  • 透過 System Doctor 診斷執行環境、裝置與 NPU 就緒狀態
  • 執行本機硬體推論基準測試

pickfit 怎麼測的

每次測試都從乾淨的機器開始,照上面的步驟執行。 pickfit 怎麼驗證

Linux x86_64

服務能回應請求

  • 從頭重跑
  • 可離線使用
  • 檢查於 2026年10月30日

怎麼看工具卡

縫線
pickfit 親自安裝過這款工具,縫線下方的內容都來自那次測試。沒測過的工具,一律沒有縫線。
已在你的作業系統上驗證
安裝步驟在你選的系統上跑過。「只在 Linux 上執行過」表示還沒在你的系統上跑過。
macOS、Linux 和 Windows在哪裡測過
綠色系統標記:pickfit 在該系統跑過安裝步驟。灰色:README 說支援,但 pickfit 還沒試過。
測試進行到哪一步
能安裝並啟動、主要功能可用、服務有回應、能產生模型輸出。視窗代表桌面應用程式已開啟;插頭代表 MCP 用戶端用過它。標記在測試結果旁邊:展開「為什麼適合、我們怎麼知道」,或在「pickfit 怎麼測的」裡。
視覺檢查
pickfit 看過應用程式的截圖。綠色:畫面正常。黃色加數字:有看起來不對的地方,點開就能看到。灰色虛線:還沒檢查。
已知漏洞
它安裝的套件有沒有已知的高風險或嚴重漏洞(OSV.dev)。綠色:沒有已知漏洞。紅色加數字:有幾個,點開看清單,安裝前先看過。灰色虛線:沒有檢查,不代表安全。
關於這次測試
測試日期,以及測到的版本。
理由的來源
每個推薦理由都依據簡介裡的一個欄位。展開理由就能看到欄位和值。
寶藏
品質高、少有人知。
品質與知名度
兩個分數,滿分都是 100。品質:pickfit 試裝、試用的結果,以及安裝文件和維護狀況。知名度:看星數、下載量和 Hacker News。
已檢查的功能
README 宣傳的主要功能裡,實測通過幾項(綠色)、失敗幾項(紅色)。灰色是沒檢查的,工具卡會說明原因。
未驗證
Fitz 依一般知識提到的知名工具。沒有測試紀錄、沒有步驟、沒有分數。