使用
Linux x86_64
下載 hakm.sh 代理腳本
curl -fsSL https://mithraeums.github.io/hakm.sh -o /tmp/hakm.sh下載實際的 install.sh
curl -fsSL https://raw.githubusercontent.com/mithraeums/hako/main/install.sh -o /tmp/install.sh透過腳本安裝 hakm 發行版二進位檔
sh /tmp/install.sh下載小型 SmolLM2 Q8_0 GGUF 模型
mkdir -p ~/models && curl -fL -o ~/models/SmolLM2-135M-Instruct-Q8_0.gguf https://huggingface.co/bartowski/SmolLM2-135M-Instruct-GGUF/resolve/main/SmolLM2-135M-Instruct-Q8_0.gguf準備可重跑的轉換器與模型
curl -fsSL https://raw.githubusercontent.com/mithraeums/hako/main/tools/gguf2mlf.py -o ~/gguf2mlf.py && python3 ~/gguf2mlf.py ~/models/SmolLM2-135M-Instruct-Q8_0.gguf ~/models/smol135.mlf2
確認能用
hakm --help輸出應包含「the hako engine」。
先試試這個
hakm ~/models/smol135.mlf2 --info執行 hakm <model.mlf2> --info 檢查模型檔案能否載入。
它能做什麼
- 與模型進行多輪對話已測試
怎麼使用
- 執行
hakm <model.mlf2> --sys "<system prompt>" -n 16 -t 0開始對話。 - 輸入訊息並按 Enter 取得回覆。
- 執行
- 產生純文字補全已測試
怎麼使用
- 執行
hakm <model.mlf2> --raw -t 0 -n 16 "<your text>"接續給定的文字。
- 執行
- 保持模型載入並重複使用快取已測試
怎麼使用
- 執行
hakm <model.mlf2> --serve -t 0 -n 16保持模型載入。 - 透過標準輸入傳送請求;回覆以
R開頭。
- 執行
- 在 CPU 上執行 3B 與 7B 模型未測試
pickfit 測到哪一步
Linux x86_64
- 可以安裝
- 可以啟動
- 4 項功能中 3 項可用
- 可離線使用
macOS:專案說支援,但 pickfit 還沒試過。
適合用來
- 產生原始 greedy 文字補全
- 執行一輪 ChatML 對話
- 在互動式多輪 REPL 中聊天
可替代 llama.cpp 和 ollama。
pickfit 怎麼測的
每次測試都從乾淨的機器開始,照上面的步驟執行。 pickfit 怎麼驗證
Linux x86_64
主要功能可用
- 從頭重跑
- 可離線使用
- 檢查於 2026年11月1日
- 版本 v0.0.4
測試機器遇到的差異
- README: curl -fsSL https://mithraeums.github.io/hakm.sh | sh
測試中: 下載 hakm.sh 與 install.sh 並閱讀兩者後,執行 sh /tmp/install.sh;安裝時取得的發行版 tarball 為二進位檔,無法事先閱讀 - README: ./hakm "$M" --info arch banner
測試中: hakm --info 橫幅輸出至 stderr,結束碼 0;請在 stderr 中查看架構那一行 - README: install step 5 runs gguf2mlf.py
測試中: 無需變更;附註:沙箱下載了 gguf2mlf.py 並在未先閱讀的情況下執行,因此 pickfit 未檢查它