使用
安裝前先知道:有已知漏洞
pickfit 在安裝時會一併裝上的套件裡找到 1 個已知的高風險或嚴重漏洞(OSV.dev,2026年11月3日),安裝前請先考慮。
pypi:certifi 2026.2.25certifi 封裝了中繼 CA 金鑰已遭入侵的 emSign 根 CA (GHSA-6q48-6c7w-9gw2,嚴重,2026.10.18 已修正)
Linux x86_64
需要先準備
- 執行環境:
python 3.12+
複製儲存庫
git clone --depth 1 https://github.com/peonist-ai/crucible "$HOME"/crucible透過 uv sync 安裝
cd "$HOME"/crucible && uv sync
README 與實測不符之處
- README 寫: uv pip install crucible-bench installs the benchmark harness
實際可行: 複製 https://github.com/peonist-ai/crucible 後在儲存庫根目錄執行 uv sync;PyPI 上的 crucible-bench 1.6.0 是另一個論點評判工具
在 pickfit 驗證過的原始指令(沙盒裡實際執行的)
僅供查核:裡面是沙盒的家目錄 /home/sbx。
git clone --depth 1 https://github.com/peonist-ai/crucible /home/sbx/cruciblecd /home/sbx/crucible && uv synccd /home/sbx/crucible && uv run crucible --help確認能用
cd "$HOME"/crucible && uv run crucible --help輸出應包含「MoE expert compression toolkit」。
它能做什麼
- 修剪 MoE 模型中的專家未測試
- 合併專家後再修剪未測試
- 將修剪後的模型量化為 W4A16未測試
- 對已部署的模型進行效能測試未測試
pickfit 測到哪一步
Linux x86_64
- 可以安裝
- 可以啟動
- 4 項功能中 0 項可用
- 可離線使用
適合用來
- 以校準資料為 MoE 專家評分
- 使用 REAP 剪除 40% 的專家
- 將剪枝後的模型量化為 W4A16
- 透過 OpenAI 相容端點對提供中的模型進行基準測試
- 比較基準與壓縮後的基準測試結果