使用
Linux x86_64
需要先準備
- 執行環境:
Rust 1.93+ - 可選用 GPU
- 至少 8 GB 記憶體
下載預先建置的 lattice 執行檔版本
mkdir -p ~/.local/bin /tmp/lattice-dl && cd /tmp/lattice-dl && curl -fLO "https://github.com/ohdearquant/lattice/releases/download/v0.9.0/lattice-0.9.0-x86_64-unknown-linux-gnu.tar.gz" && curl -fLO "https://github.com/ohdearquant/lattice/releases/download/v0.9.0/lattice-0.9.0-x86_64-unknown-linux-gnu.tar.gz.sha256"驗證檢查碼並列出 tarball 內容
cd /tmp/lattice-dl && sha256sum -c lattice-0.9.0-x86_64-unknown-linux-gnu.tar.gz.sha256全新重新安裝,最後檢查說明輸出
cd /tmp/lattice-dl && tar -xzf lattice-0.9.0-x86_64-unknown-linux-gnu.tar.gz && install -m 0755 lattice-0.9.0-x86_64-unknown-linux-gnu/lattice ~/.local/bin/lattice && lattice --help
確認能用
lattice --help輸出應包含「Usage: lattice <COMMAND>」。
執行 lattice --help 查看可用指令。
它能做什麼
- 與本機模型聊天未測試
- 提供 OpenAI 相容的聊天 API未測試
- 以 9 種支援的模型產生嵌入向量未測試
- 將模型量化為 Q4 或 Q8未測試
pickfit 測到哪一步
Linux x86_64
- 可以安裝
- 可以啟動
- 4 項功能中 0 項可用
- 可離線使用
macOS:專案說支援,但 pickfit 還沒試過。
適合用來
- 與本機模型進行互動式對話
- 在本機提供相容 OpenAI 的 chat completions
- 將模型量化為 Q4 或 QuaRot
pickfit 怎麼測的
每次測試都從乾淨的機器開始,照上面的步驟執行。 pickfit 怎麼驗證
Linux x86_64
可安裝並啟動
- 從頭重跑
- 可離線使用
- 檢查於 2026年10月30日
測試機器遇到的差異
- README: cargo install lattice-serve --bin lattice --features f16 (requires Rust 1.93+)
測試中: 使用預先建置的發行 tarball lattice-0.9.0-x86_64-unknown-linux-gnu.tar.gz(已驗證 sha256,安裝到 ~/.local/bin) - README: GitHub releases ship lattice-<version>-<target>.tar.gz
測試中: 只有 v0.9.0 提供預先建置的 Linux x86_64 檔案;至 v0.14.0 的版本皆未提供,因此執行檔落後於目前的 crate 版本 - README: README documents chat/serve usage without stating version-flag support
測試中: 最上層的 `lattice --version` 會出錯(exit 2);`lattice --help` 可用,並列出 chat/serve/doctor/prune-score