使用
Linux x86_64
透過 uv tool 安裝 arc-llama
uv tool install arc-llama安裝可攜式 Vulkan llama-server 執行環境
arc-llama install-runtime
確認能用
arc-llama --version 2>&1輸出應包含「arc-llama, version 1.0.0」。
先試試這個
arc-llama doctor 2>&1執行 arc-llama doctor 檢查設定,再執行 arc-llama serve --port 11437 啟動伺服器。
它能做什麼
- 透過相容 OpenAI 的 API 提供模型服務已測試
怎麼使用
- 以
arc-llama serve --port 11437啟動伺服器。 - 以
curl -s http://127.0.0.1:11437/v1/models列出可用模型。
- 以
- 在內建網頁介面中管理模型已測試
怎麼使用
- 以
arc-llama serve --port 11437啟動伺服器。 - 在瀏覽器中開啟 http://127.0.0.1:11437/。
- 使用 Open WebUI 分頁操作你的模型。
- 以
- 自動偵測 Intel Arc GPU沒有看到它可用
- 尋找並下載 GGUF 模型未測試
pickfit 測到哪一步
Linux x86_64
- 可以安裝
- 可以啟動
- 4 項功能中 2 項可用
- 可離線使用
Windows:專案說支援,但 pickfit 還沒試過。
適合用來
- 為 GGUF 模型執行 OpenAI 相容伺服器
- 偵測 Intel Arc GPU 並寫入初始設定
- 自動註冊掃描路徑下找到的 GGUF 模型
pickfit 怎麼測的
每次測試都從乾淨的機器開始,照上面的步驟執行。 pickfit 怎麼驗證
Linux x86_64
服務能回應請求
- 從頭重跑
- 可離線使用
- 檢查於 2026年10月30日
- 版本 1.0.0
測試機器遇到的差異
- README: pip install arc-llama
測試中: uv tool install arc-llama(隔離安裝可避開 PEP 668/唯讀系統) - README: arc-llama init writes starter config and registers GPUs
測試中: 在沒有 Intel GPU 的環境中,init/doctor/gpus 以 'No Intel GPUs detected' 結束並回傳 2,且不會寫入設定;add/scan 隨後以 'No GPUs in config' 拒絕執行