pickfit

瀏覽本機 AI 工具

llmash

與 Ollama 相容的 LLM 伺服器與 CLI,可在 Windows 和 Linux 上於本機執行模型。

已在 Linux 上測試

使用

Linux x86_64

需要先準備

  • 可選用 GPU
  1. 下載安裝指令碼

    curl -fsSL https://raw.githubusercontent.com/omgitsbase/llmash/main/install.sh -o /tmp/llmash-install.sh && wc -c /tmp/llmash-install.sh && echo OK
  2. 透過指令碼安裝 llmash

    sh /tmp/llmash-install.sh
  3. 下載小型 GGUF 模型

    mkdir -p ~/models && curl -fL -o ~/models/stories260K.gguf https://huggingface.co/ggml-org/test-model-stories260K/resolve/main/stories260K-f32.gguf && ls -l ~/models/

確認能用

llmash --version

輸出應包含「llmash version is 0.5.9」。

先試試這個

OLLAMA_MODELS=$HOME/models llmash serve --port 11434
curl -fsSL http://127.0.0.1:11434/api/tags && echo && curl -fsSL http://127.0.0.1:11434/v1/models

執行 OLLAMA_MODELS=<models folder> llmash serve --port 11434 啟動伺服器,再將請求傳送至 http://127.0.0.1:11434。

它能做什麼

  • 執行 Ollama 相容的 LLM 伺服器
    怎麼使用
    1. 以 OLLAMA_MODELS=<models folder> llmash serve --port 11434 啟動伺服器。
    2. 以 curl -fsSL http://127.0.0.1:11434/api/tags 或 curl -fsSL http://127.0.0.1:11434/v1/models 列出模型。
    3. 將含有 "model" 與 "messages" 的 JSON 內容 POST 至 http://127.0.0.1:11434/v1/chat/completions 進行對話。
    已測試
  • 不產生回覆即可分類文字
    怎麼使用
    1. 以 OLLAMA_MODELS=<models folder> llmash serve --port 11434 啟動伺服器。
    2. 將含有 "model"、"state"(你的文字)與 "questions" 的 JSON POST 至 http://127.0.0.1:11434/api/classify,每個問題需包含 "type" 與 "instructions"。
    3. 在回覆的 "answers" 中查看各問題的機率。
    已測試
  • 組建自訂模型版本
    未測試
  • 移除模型的拒絕回應
    未測試

pickfit 測到哪一步

Linux x86_64

  1. 可以安裝
  2. 可以啟動
  3. 4 項功能中 2 項可用
  4. 可離線使用

Windows:專案說支援,但 pickfit 還沒試過。

適合用來

  • 不更改權重即移除模型拒答
  • 在主控台執行 LLM 伺服器
  • 為模型尋找並安裝草稿模型
  • 從 Ollama 或 Hugging Face 拉取模型版本
  • 檢查並設定模型上下文長度,最高 4 倍

可替代 Ollama 和 vLLM。

pickfit 怎麼測的

每次測試都從乾淨的機器開始,照上面的步驟執行。 pickfit 怎麼驗證

Linux x86_64

能產生模型輸出

  • 從頭重跑
  • 可離線使用
  • 檢查於 2026年10月30日
  • 版本 0.5.9

測試機器遇到的差異

  • README: curl -fsSL https://raw.githubusercontent.com/omgitsbase/llmash/main/install.sh | sh
    測試中: 安裝程式在執行期間以二進位檔形式擷取預先建置的 llmash 壓縮檔與 llama.cpp 執行環境壓縮檔,無法事先檢閱

怎麼看工具卡

縫線
pickfit 親自安裝過這款工具,縫線下方的內容都來自那次測試。沒測過的工具,一律沒有縫線。
已在你的作業系統上驗證
安裝步驟在你選的系統上跑過。「只在 Linux 上執行過」表示還沒在你的系統上跑過。
macOS、Linux 和 Windows在哪裡測過
綠色系統標記:pickfit 在該系統跑過安裝步驟。灰色:README 說支援,但 pickfit 還沒試過。
測試進行到哪一步
能安裝並啟動、主要功能可用、服務有回應、能產生模型輸出。視窗代表桌面應用程式已開啟;插頭代表 MCP 用戶端用過它。標記在測試結果旁邊:展開「為什麼適合、我們怎麼知道」,或在「pickfit 怎麼測的」裡。
視覺檢查
pickfit 看過應用程式的截圖。綠色:畫面正常。黃色加數字:有看起來不對的地方,點開就能看到。灰色虛線:還沒檢查。
已知漏洞
它安裝的套件有沒有已知的高風險或嚴重漏洞(OSV.dev)。綠色:沒有已知漏洞。紅色加數字:有幾個,點開看清單,安裝前先看過。灰色虛線:沒有檢查,不代表安全。
關於這次測試
測試日期,以及測到的版本。
理由的來源
每個推薦理由都依據簡介裡的一個欄位。展開理由就能看到欄位和值。
寶藏
品質高、少有人知。
品質與知名度
兩個分數,滿分都是 100。品質:pickfit 試裝、試用的結果,以及安裝文件和維護狀況。知名度:看星數、下載量和 Hacker News。
已檢查的功能
README 宣傳的主要功能裡,實測通過幾項(綠色)、失敗幾項(紅色)。灰色是沒檢查的,工具卡會說明原因。
未驗證
Fitz 依一般知識提到的知名工具。沒有測試紀錄、沒有步驟、沒有分數。