使用
Linux x86_64
需要先準備
- 系統套件:
Ollama
透過 npm 全域安裝 llmxray
npm install -g llmxray
確認能用
llmxray --help 2>&1輸出應包含「Port to serve on」。
先試試這個
llmxray --port 5182 --observe-port 11436curl -s http://localhost:5182/ 2>&1啟動 LLMxRay 服務,然後在瀏覽器開啟 http://localhost:5182/。
它能做什麼
- 透過即時代理查看 Ollama 流量未測試
- 與本機模型聊天未測試
- 並排比較模型未測試
- 使用真實 logprobs 進行模型基準測試未測試
pickfit 測到哪一步
Linux x86_64
- 可以安裝
- 可以啟動
- 4 項功能中 0 項可用
- 可離線使用
適合用來
- 與本機模型逐 token 聊天
- 並排比較同一提示詞在不同模型的結果
- 以精選題組評測模型
- 透過本機檢索搜尋 PDF、DOCX、Markdown 或 CSV 檔案
- 觀察快取 token 與模型卸載
可替代 Ollama。
pickfit 怎麼測的
每次測試都從乾淨的機器開始,照上面的步驟執行。 pickfit 怎麼驗證
Linux x86_64
服務能回應請求
- 從頭重跑
- 可離線使用
- 檢查於 2026年10月30日
- 版本 0.8.12