使用
Linux x86_64
需要先準備
- 執行環境:
Rust toolchain 1.75+ - 系統套件:
nvidia-smi,xpu-smi,macmon
下載預先建置的二進位壓縮檔並安裝到本機 bin
curl -fsSL -o /tmp/llm-visuals.tar.gz https://github.com/DingoOz/llm-visuals/releases/download/v0.14.0/llm-visuals-0.14.0-linux-x86_64.tar.gz && tar xzf /tmp/llm-visuals.tar.gz -C /tmp && mkdir -p ~/.local/bin && cp /tmp/llm-visuals ~/.local/bin/llm-visuals && chmod +x ~/.local/bin/llm-visuals
確認能用
llm-visuals --version輸出應包含「llm-visuals 0.14.0」。
先試試這個
TERM=xterm-256color script -qec "stty rows 44 cols 140; timeout 3 llm-visuals --demo --log-db off" /dev/null在終端機執行 llm-visuals --demo 以範例資料查看儀表板,或在本機 LLM 伺服器執行時執行 llm-visuals。
它能做什麼
以下依據 README;pickfit 沒有逐項檢查。
- 即時查看 LLM 推論效能未測試
- 推論期間查看 GPU 狀態未測試
- 即時查看 MoE 專家路由未測試
pickfit 測到哪一步
Linux x86_64
- 可以安裝
- 可以啟動
- 主要功能可用
- 可離線使用
macOS 和 Windows:專案說支援,但 pickfit 還沒試過。
適合用來
- 監控每秒 token 數與首個 token 時間
- 檢視即時 GPU 負載與記憶體使用量
- 檢查上下文填充度與推測解碼接受率
- 查看各 GPU 上哪些層正在忙碌
- 檢視最後一個 token 的 MoE 專家路由
pickfit 怎麼測的
每次測試都從乾淨的機器開始,照上面的步驟執行。 pickfit 怎麼驗證
Linux x86_64
主要功能可用
- 從頭重跑
- 可離線使用
- 檢查於 2026年10月30日
- 版本 0.14.0
測試機器遇到的差異
- README: cargo install --path . with Rust toolchain 1.75+
測試中: 從 GitHub releases(v0.14.0)下載預先建置的 linux-x86_64 壓縮檔,並將單一執行檔複製到 ~/.local/bin,而非自行建置 - README: cargo run --release -- --demo / llm-visuals --demo
測試中: 在設定終端機大小的 pty 下執行示範:TERM=xterm-256color script -qec "stty rows 44 cols 140; timeout 3 llm-visuals --demo --log-db off" /dev/null;直接執行會失敗並顯示 'No such device or address',過小的 pty 只會輸出跳脫初始化序列