使用
macOS arm64
從 GitHub releases 下載 macOS arm64 執行檔
curl -LO https://github.com/Joakimpalm-Zen/xyntetik-runner/releases/latest/download/runner-macos-arm64 && chmod +x runner-macos-arm64 && mv runner-macos-arm64 runner && ls -lh runner下載小型 GGUF 模型 stories260K 用於測試
mkdir -p ~/models && curl -fL -o ~/models/stories260K.gguf https://huggingface.co/ggml-org/test-model-stories260K/resolve/main/stories260K-f32.gguf && ls -lh ~/models/stories260K.gguf
確認能用
./runner --version輸出應包含「runner 1.10.0」。
先試試這個
./runner --info caps執行 ./runner --info caps,查看引擎在你的電腦上支援哪些功能。
Linux x86_64
下載 Linux 執行檔與校驗碼並進行驗證
curl -fL -o runner-linux-x86_64 https://github.com/Joakimpalm-Zen/xyntetik-runner/releases/latest/download/runner-linux-x86_64 && curl -fL -o SHA256SUMS https://github.com/Joakimpalm-Zen/xyntetik-runner/releases/latest/download/SHA256SUMS && sha256sum -c --ignore-missing SHA256SUMS設為可執行並重新命名為 runner
chmod +x runner-linux-x86_64 && mv runner-linux-x86_64 runner && ./runner --version
確認能用
./runner --info caps 2>&1輸出應包含「architectures」。
先試試這個
./runner --info caps 2>&1執行 ./runner --info caps,查看引擎在你的電腦上支援哪些功能。
它能做什麼
- 透過相容 OpenAI 的 API 提供模型服務已測試
怎麼使用
- 以
./runner -m <model.gguf> --serve --port 8080啟動伺服器。 - 以
curl -s http://127.0.0.1:8080/v1/chat/completions -H 'Content-Type: application/json' -d '{"messages":[{"role":"user","content":"<your text>"}],"temperature":0,"max_tokens":1傳送聊天請求。
- 以
- 透過量化權重訓練 LoRA 介面卡未測試
- 超過 token 上限時仍完成工具呼叫未測試
- 將執行記錄為簽章收據並重播未測試
pickfit 測到哪一步
macOS arm64
- 可以安裝
- 可以啟動
- 4 項功能中 1 項可用
- 可離線使用
Linux x86_64
- 可以安裝
- 可以啟動
- 4 項功能中 3 項可用
- 可離線使用
其他系統
Windows:專案說支援,但 pickfit 還沒試過。
適合用來
- 透過相容 OpenAI 的 HTTP API 提供 GGUF 模型服務
- 下載前檢查模型是否容納得下
- 以自訂類型規劃量化模型檔案
- 透過量化權重訓練 LoRA 轉接器
- 驗證已簽署、可重現的推論收據
可替代 llama.cpp、vLLM、Ollama、TensorRT-LLM 和 SGLang。
pickfit 怎麼測的
每次測試都從乾淨的機器開始,照上面的步驟執行。 pickfit 怎麼驗證
macOS arm64
能產生模型輸出
- 從頭重跑
- 可離線使用
- 檢查於 2026年11月1日
- 版本 1.10.0
測試機器遇到的差異
- README: Published release 1.6.1
測試中: 下載的執行檔顯示版本 1.10.0,仍相容
Linux x86_64
能產生模型輸出
- 從頭重跑
- 可離線使用
- 檢查於 2026年10月30日
- 版本 runner 1.8.0
測試機器遇到的差異
- README: git clone + make; quick-start shows runner-macos-arm64
測試中: 使用手動 Linux 資產 runner-linux-x86_64 + SHA256SUMS 搭配 sha256sum -c;環境中沒有編譯器或 make,無法從原始碼建置,且 macOS 資產無法在 Linux 上執行 - README: ./runner --version -> runner 1.6.1
測試中: 執行檔輸出 runner 1.8.0