pickfit 測到哪一步
pickfit 還沒驗證過 pmetal,所以沒有測過的安裝步驟。
以下只依據它的 README。
使用
需要先準備
- 執行環境:
rust 1.95 - 系統套件:
xcode command line tools - 需要 GPU
- 僅支援 Apple 晶片
它能做什麼
pickfit 還沒測過它,所以以下只依據 README。
- 使用 LoRA、QLoRA、DoRA 微調並量化為 GGUF未測試
- 包含合併、融合與量化的模型操作未測試
- 適用於訓練與推論工作流程的終端機介面與桌面應用程式未測試
適合用來
- 在 Apple Silicon 上以 LoRA/QLoRA 微調 LLM
- 以 OpenAI 相容 API 在本機執行 LLM 推論與服務
- 透過校準將模型量化為 GGUF