pickfit

所有驗證過的工具

這裡的每款工具,pickfit 都親自試過

顯示 291 / 291 款工具 · 本機 AI 工具

工具

  • Voxclip

    本機 AI,命令列工具

    隱私優先的 CLI,在本機錄音並以 Whisper 轉錄至剪貼簿。

    已在 Linux 驗證
  • Nightage

    本機 AI,終端機應用程式

    完全在本機執行的終端機 AI agent,透過 Ollama 具備記憶聊天、網路研究與程式碼撰寫功能。

    已在 Linux 驗證免費
  • OpsTrellis

    本機 AI,桌面應用程式

    離線語音聽寫工具,透過快速鍵將清理後的口述文字插入任何 App。

    已在 macOS 和 Linux 驗證免費
  • Contemplative Agent

    本機 AI,命令列工具

    可自主發文並提出提示詞 harness 修訂以供人工核准的 Local-LLM agent。

    已在 macOS 和 Linux 驗證
  • PBP — Persönliches Bewerbungs-Portal

    本機 AI,MCP 伺服器

    面向 DACH 市場的本機求職助手,用來搜尋職缺、追蹤應徵並分析履歷。

    已在 Linux 驗證免費
  • JevAlt

    本機 AI,本機伺服器

    三個 4B 模型在選項間做出選擇並回傳機率,透過 Jev API 在本機執行。

    已在 Linux 驗證免費
  • Graphiti Local

    本機 AI,命令列工具

    本機優先的時序知識圖譜,作為 agent 記憶並支援人工核准的更新。

    已在 Linux 驗證
  • M1K3

    本機 AI,桌面應用程式

    適用於 Apple Silicon Mac 的本機 AI 助理,具裝置端推論、語音、RAG 與 MCP 伺服器。

    已在 macOS 驗證免費
  • hako

    本機 AI,命令列工具

    從零打造的 C 引擎,可在 CPU 上執行 hako-sho 3B 與 hako-koi 7B 模型。

    已在 Linux 驗證
  • Filo

    本機 AI,命令列工具

    自架 AI 聊天,用於在終端機與 Telegram 中進行成人自我反思。

    已在 Linux 驗證免費
  • omm

    本機 AI,命令列工具

    本機 GGUF 模型套件管理工具,可安裝、連結、排名與驗證模型。

    已在 Linux 驗證
  • Flyweight

    本機 AI,本機伺服器

    透過 OpenAI/Anthropic API,從原生 C++/CUDA 執行環境提供 GGUF/safetensors LLM。

    已在 Linux 驗證
  • Quassel

    本機 AI,桌面應用程式

    本機隨按即講語音輸入,離線語音轉文字並在游標處輸入。

    已在 macOS 驗證免費
  • TenSeiAi

    本機 AI,命令列工具

    以純 Python 與 NumPy 打造的 Mixture-of-Experts 語言模型與離線 AI 引擎。

    已在 macOS 和 Linux 驗證
  • LIXBON

    本機 AI,本機伺服器

    分散式 GPU 叢集上的自託管 LLM 閘道,支援 OpenAI API 與多用戶端應用程式。

    已在 Linux 驗證
  • Emerald

    本機 AI,網頁應用

    瀏覽器工具,直接在使用者 GPU 上於本機放大圖片,無需上傳。

    已在瀏覽器實測,不限系統免費
  • inlaut

    本機 AI,桌面應用程式

    本機 macOS 選單列應用程式,提供離線德文與英文語音聽寫。

    已在 macOS 驗證免費
  • Poindexter

    本機 AI,自架網頁應用

    本機優先引擎,會發掘主題、研究、撰寫、QA 審核並發布貼文。

    已在 Linux 驗證
  • MyFocalAI

    本機 AI,自架網頁應用

    從精選來源彙整 AI 新聞,以 LLM 評分相關性並提供儀表板。

    已在 Linux 驗證免費
  • ThunderTalk

    本機 AI,桌面應用程式

    本機 macOS 語音工具組,支援快捷鍵聽寫、含講者標記的轉錄與文字轉語音。

    已在 macOS 驗證免費
  • mcp-inicio-ia

    本機 AI,MCP 伺服器

    MCP 伺服器,使用 SQLite FTS5 索引 Markdown 文件,並提供筆記與 Ollama 助理。

    已在 Linux 驗證
  • HomeBotBuild

    本機 AI,自架網頁應用

    在 Windows 或 Linux PC 上離線執行本機 LLM 的私有自架家用 AI。

    已在 Linux 驗證免費
  • ellmos BACH

    本機 AI,命令列工具

    本機優先、面向 LLM agent 的文字作業系統,具備 SQLite 記憶、工具、排程器與協同作業功能。

    已在 Linux 驗證免費
  • NexusAgent

    本機 AI,命令列工具

    零設定的本機 AI agent 框架,具備多 agent 協調與 GraphRAG 記憶。

    已在 Linux 驗證免費
  • Quill

    本機 AI,桌面應用程式

    免費開源的語音聽寫應用程式,提供逐字聽寫與經 LLM 潤飾的 Scribe 語音輸入。

    已在 macOS 驗證免費
  • Lumen

    本機 AI,命令列工具

    Rust 執行檔,在本機以 GPU 常駐方式執行 Qwen LLM,並提供 OpenAI 相容 API。

    已在 Linux 驗證免費
  • Speechos

    本機 AI,自架網頁應用

    本機優先的語音工作區,可在裝置上錄音、轉錄、分析與合成語音。

    已在 Linux 驗證
  • omarchy-cluster

    本機 AI,命令列工具

    在多台連網機器上將單一本機模型作為單一 OpenAI 相容端點執行。

    已在 macOS 和 Linux 驗證
  • engine-mlx

    本機 AI,本機伺服器

    為 Apple Silicon 打造的 Rust 推論引擎,透過 OpenAI API 在本機執行量化 LLM。

    未驗證
  • freetoken-rdna3

    本機 AI,本機伺服器

    在 RX 7900 GPU 上執行 Qwen3.8-Flash-Next MoE 模型,並透過相容於 OpenAI 的本機伺服器提供服務。

    未驗證
  • BitRun

    本機 AI,命令列工具

    免編譯執行器與終端機儀表板,用於在 CPU 上執行 1-bit 三元 LLM。

    已在 macOS 和 Linux 驗證
  • chimera

    本機 AI,命令列工具

    單一靜態二進位檔與函式庫,透過 ggml 在本機進行文字、音訊與影像推論。

    已在 Linux 驗證
  • NeuralDeck

    本機 AI,桌面應用程式

    桌面應用程式,透過本機 LLM 將 PDF、Word、PowerPoint 和文字檔轉成 Anki 閃卡。

    已在 Linux 驗證
  • LocaLM

    本機 AI,命令列工具

    離線 CLI 工具,在本機執行 LLM,用於聊天、寫程式、圖像/音樂/影片生成、RAG、記憶與語音。

    已在 Linux 驗證
  • Factor

    本機 AI,命令列工具

    裝置端 AI agent,具備聊天、通話、語音、瀏覽器與桌面工具。

    已在 macOS 和 Linux 驗證
  • crow-nest

    本機 AI,本機伺服器

    Rust 與 CUDA 推論引擎,透過 OpenAI 相容 API 在本機提供量化 LLM 服務。

    未驗證
  • Flint

    本機 AI,桌面應用程式

    本機優先的桌面 AI 工作區,可與本機模型對話並透過 agent 協助處理檔案。

    已在 Linux 驗證
  • turbograph

    本機 AI,命令列工具

    以 Go 打造的本機圖譜 RAG 引擎,用於文件的混合稠密與詞彙檢索。

    未驗證
  • Turing Engine

    本機 AI,命令列工具

    透過終端機對話與相容 API 閘道在本機提供大型語言模型服務。

    未驗證免費
  • ELI v2.0

    本機 AI,桌面應用程式

    本機優先的私密 AI 助理,具備語音、視覺、記憶與桌面操控,可完全離線執行。

    已在 macOS 驗證免費
  • OpenScissors

    本機 AI,桌面應用程式

    離線桌面 App,透過 AI 提案與筆刷細修去背照片主體。

    未驗證
  • quantpicker

    本機 AI,命令列工具

    在你的 GPU 上測量 GGUF 量化版本的執行速度與品質損失,以挑選可接受的最快版本。

    已在 macOS 和 Linux 驗證
  • mini-infer

    本機 AI,本機伺服器

    極簡教育用 LLM 推論引擎,具備連續批次處理與分頁 KV-cache,適用於 Qwen2.5。

    已在 Linux 驗證免費
  • Mnemai

    本機 AI,桌面應用程式

    免費的桌面 AI 介面,為雲端與離線模型提供共享的本機記憶。

    未驗證
  • Difflet

    本機 AI,命令列工具

    透過 CLI、Python API 與伺服器執行 diffusion transformer 圖片與影片模型。

    已在 Linux 驗證
  • AgentLoom

    本機 AI,本機伺服器

    可組合的 C++20 agent 執行環境,具備 gateway、角色工作階段、記憶、視覺與本機推論。

    未驗證
  • infai

    本機 AI,終端機應用程式

    透過啟動設定檔執行 llama.cpp 與 vLLM 模型並提供遙測資訊的控制平面 TUI。

    已在 Linux 驗證
  • Krill

    本機 AI,命令列工具

    Mac 原生二進位檔,可執行本機 LLM 並提供 coding agent、聊天 TUI 與 API 伺服器。

    未驗證
  • Mithril

    本機 AI,本機伺服器

    協調引擎,透過單一 Ollama 相容 API 在多個 LLM 供應商之間路由請求。

    已在 macOS 和 Linux 驗證
  • Kvasir AI Network

    本機 AI,本機伺服器

    分散式推論系統,將大型 GGUF 模型分片為跨機器的多個階段。

    未驗證
  • Generator Assets

    本機 AI,命令列工具

    本機無頭管線,使用 Vulkan GGUF 引擎產生遊戲素材、AI 影片與音樂循環。

    已在 Linux 驗證免費
  • WyvernTKC/llama.cpp-4xV100

    本機 AI,本機伺服器

    llama.cpp 的分支,支援在 4x Tesla V100 GPU 上進行張量並行 LLM 推論。

    未驗證
  • Whisper Transcription API Installer

    本機 AI,本機伺服器

    自架語音轉文字伺服器安裝程式,提供相容於 OpenAI 的轉錄與翻譯 API。

    未驗證
  • Knemora

    本機 AI,自架網頁應用

    開源的本機優先知識平台,具備 Second Brain 圖譜、Markdown wiki 與本機 AI 聊天。

    未驗證免費
  • NEOTH

    本機 AI,本機伺服器

    本機優先的個人 AI daemon,具備五層記憶、需授權的工具與外掛。

    未驗證
  • Vortelio

    本機 AI,本機伺服器

    開源本機平台,可離線執行 LLM 並生成圖片、音訊、影片與 3D。

    已在 Linux 驗證免費
  • Tractus

    本機 AI,桌面應用程式

    本機優先 macOS 應用程式,將錄音轉為可搜尋、可引用的轉錄筆記。

    未驗證
  • Verdict

    本機 AI,本機伺服器

    用於 System One 決策模型的高效能推論引擎,提供 HTTP API。

    未驗證
  • PocketTTS-RAVEN

    本機 AI,網頁應用

    在瀏覽器中將文字轉語音的工具,可在本機產生語音並複製聲音。

    已在瀏覽器實測,不限系統
  • WaveRedact

    本機 AI,命令列工具

    本機管線,可轉錄音訊並以靜音或嗶聲取代片段來抹除個資。

    未驗證免費
  • sipllm

    本機 AI,命令列工具

    無依賴的 C++17 引擎,透過一次串流一層的方式執行量化後的 GGUF LLM。

    未驗證
  • local-jev

    本機 AI,命令列工具

    用於快速自主 agent 選擇、評分、路徑與 noul 決策的離線 CPU 引擎。

    已在 Linux 驗證免費
  • Tidytalk

    本機 AI,桌面應用程式

    適用於 macOS 的私密語音輸入工具,在裝置端辨識語音並貼上整理後的文字。

    未驗證免費
  • Garmin Health Pipeline

    本機 AI,命令列工具

    自架 agent,可分析 Garmin 健康資料並透過 Telegram 或 LLM 建立訓練計畫。

    未驗證免費
  • OpenRamble

    本機 AI,桌面應用程式

    免費開源 Mac App,提供離線按住說話聽寫與本機會議轉錄。

    未驗證免費
  • Shura

    本機 AI,命令列工具

    在單張遊戲 GPU 上執行 35B MoE 程式碼模型,具備 checkpoint 與離線 agent。

    未驗證
  • PuffPAI BuildBot

    本機 AI,自架網頁應用

    BuildBot 依你核准的計畫,在你的電腦上建立並執行私有的 AI bot。

    已在 Linux 驗證
  • Charoite

    本機 AI,桌面應用程式

    本機會議助理,具備語音轉文字、語者分離與知識圖譜建構功能。

    已在 macOS 驗證
  • goinfer

    本機 AI,命令列工具

    Pure-Go 函式庫與執行檔,可從 safetensors 或 GGUF 在本機執行開放權重 LLM。

    已在 macOS 和 Linux 驗證
  • siphon.cpp

    本機 AI,本機伺服器

    CUDA llama.cpp 分支,可從 SSD 串流 MoE expert,在 6GB VRAM 的筆電上執行 Qwen3.6 35B。

    未驗證
  • FreeToken Kai

    本機 AI,本機伺服器

    非官方 FreeToken 分支,在消費級 GPU 上執行大型 MoE 模型,並提供自動調校基準測試。

    未驗證
  • arc-llama

    本機 AI,命令列工具

    指令列工具,偵測 Intel Arc GPU 並透過 OpenAI 相容 API 提供 GGUF 模型服務。

    已在 Linux 驗證
  • NInferno

    本機 AI,本機伺服器

    單 GPU LLM 推論伺服器,用於在 NVIDIA GPU 上執行 Qwen、Gemma 等 checkpoint。

    未驗證
  • drove

    本機 AI,本機伺服器

    按需代理,依請求載入本機模型並在閒置時卸載。

    未驗證
  • B70 Launcher

    本機 AI,桌面應用程式

    用於在 Intel Arc Pro B70 上執行 LLM 推論的本機桌面啟動器。

    未驗證
  • Prometheus

    本機 AI,本機伺服器

    在自有硬體上執行的 AI agent 常駐程式,闔上筆電後仍持續運作。

    已在 macOS 和 Linux 驗證
  • ThreeToks

    本機 AI,命令列工具

    小型本機 AI agent,透過選單操作在網路上搜尋並回答問題。

    已在 Linux 驗證
  • wavo

    本機 AI,命令列工具

    支援 Parakeet、GigaAM 與 Whisper 模型的本機 GPU 語音轉文字 CLI 與 Rust 程式庫。

    已在 Linux 驗證
  • SENTINEL

    本機 AI,自架網頁應用

    自架邊緣監控,具備人員偵測、人臉辨識、場景分析與告警。

    未驗證
  • darkmux

    本機 AI,命令列工具

    在本機 Mac 叢集上,將設定檔定義的 AI 任務作為工作圖執行。

    未驗證免費
  • ModelJars

    本機 AI,命令列工具

    用於探索與執行本機 JVM AI 模型的社群 marker-JAR 目錄。

    已在 Linux 驗證
  • Retrograd

    本機 AI,命令列工具

    透過 SFT、preference、PPO 與 GRPO,使用 LoRA 或完整權重直接微調 GGUF 模型。

    未驗證
  • Local Transcriber

    本機 AI,桌面應用程式

    選單列應用程式,可錄音、在本機轉錄、標記講者並聽寫。

    未驗證免費
  • babelscribe

    本機 AI,命令列工具

    離線工具,使用本機 GPU 將音訊/影片轉為 99 種語言的 SRT/VTT 字幕與文字。

    已在 macOS 和 Linux 驗證免費
  • LlamaToaster

    本機 AI,自架網頁應用

    使用 llama-bench 掃描 llama.cpp 參數,為你的硬體找出最佳設定。

    未驗證
  • AI Adapter

    本機 AI,本機伺服器

    整合層,將任意 AI 模型作為受治理的偵測器提供給 OpenNVR 影片分析使用。

    未驗證
  • AI Hardware Fit

    本機 AI,網頁應用

    網頁工具,檢查選定 GPU 能跑哪些 AI 模型並預估需求。

    已在瀏覽器實測,不限系統
  • NInfer-all

    本機 AI,本機伺服器

    C++/CUDA 引擎,可在 NVIDIA GPU 上執行 Qwen 與 Gemma 模型並提供 OpenAI 相容 API。

    未驗證
  • llamaMan

    本機 AI,自架網頁應用

    用於啟動與管理多個本機 llama.cpp 伺服器執行個體的瀏覽器介面與 API。

    未驗證
  • Quartermaster

    本機 AI,本機伺服器

    依 VRAM 自動設定模型的本機平台,透過 API 提供聊天、圖像與語音服務。

    已在 Linux 驗證
  • Dictate

    本機 AI,桌面應用程式

    按住說話的 macOS 聽寫工具,在本機轉錄語音並貼上清理後的文字。

    已在 macOS 驗證免費
  • Linggen

    本機 AI,命令列工具

    本機優先的 agent 執行環境,在你的電腦上執行 AI 模型,具備檔案式 skills 與 P2P 存取。

    已在 Linux 驗證
  • Cluaiz

    本機 AI,命令列工具

    可執行 GGUF 與 ONNX 模型以提供聊天、視覺、語音與嵌入向量的本機 Rust 引擎。

    已在 macOS 和 Linux 驗證
  • Crucible

    本機 AI,本機伺服器

    在 AMD Strix Halo APU 上執行 EXL3 Qwen3.8-Flash-Next 檢查點的推論引擎。

    未驗證
  • NIBIA Fabric

    本機 AI,命令列工具

    開源分散式 LLM 推論架構,彙整區域網路內多台電腦的 CPU 與 RAM。

    未驗證
  • Crow

    本機 AI,桌面應用程式

    具備工具、MCP、記憶、技能、視覺與影像生成功能的本機 AI agent。

    已在 Linux 驗證免費
  • ILLIP AI

    本機 AI,自架網頁應用

    本機優先的 AI 平台,提供聊天、agent 團隊、記憶與依硬體規格配置的模型商店。

    已在 Linux 驗證
  • videre

    本機 AI,命令列工具

    本機優先的 CLI,用於掃描、去重、搜尋與瀏覽照片與影片。

    已在 Linux 驗證免費
  • Helios

    本機 AI,本機伺服器

    可讀的 PyTorch 引擎,可在本機以批次處理與分頁注意力提供 Qwen3-4B 服務。

    已在 Linux 驗證
  • RigSpark

    本機 AI,命令列工具

    可感知硬體的 CLI,檢查本機模型是否符合硬體並估算速度。

    已在 Linux 驗證免費
  • jitllm

    本機 AI,本機伺服器

    JIT 推論引擎,可依硬體自動調整以更快執行 LLM,即使超出記憶體也能運行。

    已在 macOS 和 Linux 驗證
  • Self-Hosted AI Assistant

    本機 AI,自架網頁應用

    使用 Ollama 的本機 AI 助理平台,支援 WhatsApp 與 Telegram,具備記憶與工具。

    未驗證免費
  • SunnyNet

    本機 AI,命令列工具

    以 CPU 為主、O(N) 線性遞迴推論執行環境,具手寫 SIMD 核心。

    已在 Linux 驗證免費
  • Sotto

    本機 AI,桌面應用程式

    本機語音聽寫應用程式,離線轉錄語音並將文字插入使用中應用程式。

    未驗證免費
  • Ori

    本機 AI,本機伺服器

    具離線能力的 agentic IoT 執行環境,可推理感測器資料並在分級授權下行動。

    已在 Linux 驗證免費
  • Skejja

    本機 AI,本機伺服器

    本機 57M 模型,將短文字評分為選項、是/否或序數機率。

    未驗證
  • Ferro

    本機 AI,命令列工具

    輕量 C++ 推論引擎,在 Intel N100 iGPU 上執行 GGUF 嵌入、決策與對話。

    已在 Linux 驗證
  • Molten

    本機 AI,命令列工具

    在 Apple Silicon 上執行 LiquidAI LFM2.5 4-bit 模型的原生 Rust 加 Metal 推論引擎。

    未驗證免費
  • sm70-attn

    本機 AI,本機伺服器

    llama.cpp 分支,新增適用於 Tesla V100 LLM 推論的 SM 7.0 D256 FlashAttention 核心。

    未驗證
  • CoderAI

    本機 AI,本機伺服器

    為多模態模型提供 OpenAI 相容 API 的本機與雲端 GPU 推論協調器。

    已在 Linux 驗證
  • AirDrop-LLM

    本機 AI,命令列工具

    離線 P2P 中介,透過 Wi-Fi 匯集多台筆電進行管線並行的 LLM 推論。

    已在 Linux 驗證
  • ChaosEngineAI

    本機 AI,桌面應用程式

    桌面應用程式,用於探索、執行本機模型、與其對話、進行基準測試,以及生成圖片與影片。

    已在 Linux 驗證
  • MAZHARMIK/python-ai-agent-ollama

    本機 AI,命令列工具

    使用 Ollama 的本機 Python AI agent,具備記憶與多步驟工具呼叫。

    已在 Linux 驗證免費
  • Turnbook

    本機 AI,MCP 伺服器

    將 agent 對話逐字保留在 PC 上的本機長期記憶。

    已在 Linux 驗證免費
  • gutcheck

    本機 AI,命令列工具

    以淺白英文詢問行號、日誌、diff 或 JSON,並在本機即時探索答案。

    未驗證免費
  • llama-buddy

    本機 AI,命令列工具

    透過 llama-server 管理、下載與提供本機 LLM 的 CLI 包裝工具。

    已在 Linux 驗證
  • Astronomical

    本機 AI,桌面應用程式

    在 RAM 上限內,於 Apple Silicon 上執行大型稀疏語言與視覺模型的本機執行器。

    未驗證
  • NeuroBrix

    本機 AI,命令列工具

    開源引擎,透過單一容器格式執行語言、視覺、語音、圖像與影片模型。

    已在 Linux 驗證免費
  • Agent Mini

    本機 AI,命令列工具

    本機優先的 AI agent,由小型本機模型驅動,具備 shell、檔案、網路與記憶工具。

    已在 Linux 驗證
  • rMLX

    本機 AI,本機伺服器

    Rust 單一執行檔的 MLX 推論伺服器,適用於 Apple Silicon,用於提供本機 LLM。

    未驗證
  • arcint

    本機 AI,本機伺服器

    推論伺服器,在 Intel Arc GPU 上為精選模型提供 OpenAI 相容端點。

    未驗證
  • Lattice

    本機 AI,命令列工具

    在 Apple Silicon 與 Linux 上本機執行 transformer 模型的純 Rust 推論引擎。

    已在 Linux 驗證
  • JoyBoy

    本機 AI,自架網頁應用

    本機優先的 AI 工作站,用於聊天、寫程式、圖像生成、編輯、影片與模型管理。

    未驗證
  • vllm-omni-mlx

    本機 AI,本機伺服器

    適用於 Apple Silicon、相容 OpenAI 與 Anthropic 的全模態推論伺服器。

    未驗證
  • Mica

    本機 AI,本機伺服器

    Mica 是 4B 模型伺服器,為是非、選擇與評分問題回傳校準後的機率。

    已在 Linux 驗證
  • Narwhal

    本機 AI,本機伺服器

    可分離式 LLM 推論框架,無需重新載入權重即可熱切換 prefill 與 decode 角色。

    已在 Linux 驗證
  • Foq

    本機 AI,命令列工具

    免費本機決策引擎,將文字轉為具型別、經校正的決策。

    已在 Linux 驗證免費
  • oxi

    本機 AI,桌面應用程式

    桌面 App,在同一個聊天中整合 Claude Code、Codex 與 Cursor 訂閱及本機模型。

    已在 macOS 和 Linux 驗證免費
  • WayVoice

    本機 AI,桌面應用程式

    適用於 Linux 的離線語音輸入工具,在本機轉錄語音並將文字插入應用程式中。

    未驗證
  • whosaid

    本機 AI,命令列工具

    在 Mac 上標記會議與錄音中發言者與時間的本機離線轉錄工具。

    未驗證
  • Lingolay

    本機 AI,桌面應用程式

    離線螢幕翻譯工具,可讀取字幕、在本機翻譯並疊加語音配音。

    未驗證免費
  • Bittune

    本機 AI,終端機應用程式

    本機 agent,在你的 GPU 上部署並測試 vLLM / SGLang 推論,並提供可稽核的證據。

    已在 Linux 驗證
  • Moose

    本機 AI,桌面應用程式

    用於與本機 Ollama 模型或選用雲端供應商聊天的原生 Linux 應用程式。

    已在 Linux 驗證免費
  • local-model-autoresearch

    本機 AI,命令列工具

    自主爬山最佳化工具,可調整本機 GGUF 執行期旗標以提升速度與準確度。

    未驗證免費
  • dsh-novel-writer

    本機 AI,MCP 伺服器

    適用於中文小說的本機工作台,在本機準備章節素材並檢查風格。

    已在 Linux 驗證免費
  • Xyntetik Runner

    本機 AI,命令列工具

    在本機提供模型服務並訓練 LoRA 轉接器的單一執行檔 C GGUF 引擎。

    已在 macOS 和 Linux 驗證免費
  • Whisper Transcriber Suite

    本機 AI,桌面應用程式

    將音訊與影片轉為含講者標記的逐字稿與字幕的離線應用程式。

    未驗證免費
  • Naidan

    本機 AI,自架網頁應用

    注重隱私的本機優先 AI 應用程式,可在瀏覽器內執行模型或連接 API。

    未驗證
  • pondok-ai

    本機 AI,命令列工具

    用來建置私有本機 AI 堆疊的 CLI,包含 LLM、對談介面、搜尋與 API。

    已在 Linux 驗證
  • Project Zero

    本機 AI,命令列工具

    以 C 撰寫、僅用 CPU 的 LLM 推論引擎,可透過 CLI 與網頁聊天執行 GGUF 模型。

    已在 Linux 驗證
  • llmash

    本機 AI,本機伺服器

    與 Ollama 相容的 LLM 伺服器與 CLI,可在 Windows 和 Linux 上於本機執行模型。

    已在 Linux 驗證
  • WHIRL

    本機 AI,本機伺服器

    適用於 AMD 8060S 與 R9700 GPU 的原生 Windows C++/HIP LLM 推論引擎。

    未驗證免費
  • superfluid

    本機 AI,本機伺服器

    服務常駐程式,提供單一排程器與 API,跨執行環境與機器進行本機 LLM 推論。

    已在 Linux 驗證
  • mdma

    本機 AI,命令列工具

    LLM 推論引擎,適用於自有硬體,具備自訂核心、精確記憶體准入與私有聯邦功能。

    已在 Linux 驗證免費
  • GraphLink

    本機 AI,桌面應用程式

    本機優先的桌面工作空間,在畫布上以分支方式整合研究、程式碼與 agent 的 AI 工作。

    未驗證
  • Squish

    本機 AI,本機伺服器

    適用於 Apple Silicon 的本機 LLM 常駐程式,提供相容 OpenAI/Ollama 的 API。

    未驗證
  • Jenny

    本機 AI,桌面應用程式

    桌面 AI 助理,使用本機模型提供聊天、程式設計工具與成品生成功能。

    未驗證免費
  • NeuronDump

    本機 AI,命令列工具

    檢視本機 GGUF 模型內部結構,並產生更小但仍可執行的 GGUF 檔案。

    已在 Linux 驗證
  • llm-server

    本機 AI,本機伺服器

    透過 llama.cpp 執行 Qwen 35B MoE 的本機推論伺服器,具備 proxy 與基準測試。

    未驗證
  • Renfield

    本機 AI,自架網頁應用

    可自架的 AI 助理,支援語音衛星、工具整合與離線 RAG。

    未驗證免費
  • Infera

    本機 AI,本機伺服器

    分散式推論協調器,可跨 vLLM / SGLang 引擎分派請求以提升有效吞吐。

    未驗證免費
  • Sublarr

    本機 AI,自架網頁應用

    自架字幕管理器,為媒體庫搜尋、評分並下載字幕。

    未驗證免費
  • Atlas Inference Engine

    本機 AI,本機伺服器

    無相依性的 LLM 推論引擎,用於在本機工作站上執行模型。

    未驗證
  • Ollajev

    本機 AI,本機伺服器

    在本機透過 Jev 相容 API 執行 System One 決策模型。

    未驗證
  • hk

    本機 AI,命令列工具

    從頭打造的 Zig 執行環境與格式,用於本機 LLM 推論,支援 mmap 載入與 CPU / CUDA / Vulkan 引擎。

    已在 Linux 驗證
  • dlgo

    本機 AI,命令列工具

    純 Go 引擎,在本機執行 GGUF LLM,用於聊天、伺服器 API、視覺與圖片產生。

    未驗證
  • bloomery

    本機 AI,本機伺服器

    快速的 LLM 推論伺服器,支援超過 GPU 記憶體大小的 mixture-of-experts 模型。

    未驗證
  • InferBridge

    本機 AI,本機伺服器

    以 Intel OpenVINO GenAI 為基礎、優先支援 Windows 的 OpenAI 相容本機 LLM 伺服器,內建聊天介面與模型工具。

    已在 Linux 驗證免費
  • SnowLLM

    本機 AI,命令列工具

    針對 Ryzen AI Max APU 手動調校的本機 LLM 推論框架。

    未驗證
  • ReVolta

    本機 AI,本機伺服器

    推論伺服器,透過 OpenAI 相容 API 在多 GPU V100 伺服器上執行 Qwen3.8 Flash-Next。

    未驗證
  • MAFDET

    本機 AI,命令列工具

    本機聊天應用程式,在輸入時讀取訊息並預先推理,以縮短按下 Enter 後的等待時間。

    已在 Linux 驗證
  • EuLLM

    本機 AI,本機伺服器

    用於在地建立、分發與執行符合歐盟規範的主權 LLM 的平台。

    已在 Linux 驗證
  • Ignis

    本機 AI,本機伺服器

    透過 OpenAI API 提供 Qwen 27B、125B MoE 與影像模型的單 GPU 本機推論伺服器。

    未驗證
  • TandemLLM

    本機 AI,本機伺服器

    推論引擎,在單台 DGX Spark 上以 draft-and-verify 解碼提供開放模型服務。

    未驗證
  • jigor

    本機 AI,命令列工具

    零樣本分類器閘道與執行器,支援本機 ONNX 與遠端決策模型。

    未驗證
  • semquery

    本機 AI,命令列工具

    本機離線終端機工具,可索引文件以進行語意搜尋與附來源問答。

    未驗證
  • LLM Hub for Obsidian

    本機 AI,MCP 伺服器

    Obsidian 外掛,支援跨多家供應商的 AI 對話、工作流程自動化與語意搜尋。

    未驗證免費
  • Dabri

    本機 AI,桌面應用程式

    離線 Linux 語音轉文字應用程式,將語音聽寫至使用中視窗。

    已在 Linux 驗證
  • Android-GPU

    本機 AI,本機伺服器

    將 Android 手機變成離線 AI 加速器,為 PC 執行本機 LLM。

    未驗證免費
  • loudkit

    本機 AI,命令列工具

    本機文字轉語音工具組,支援 10 種語言共 28 種聲音、聲音複製與離線使用。

    未驗證免費
  • spinf-serve

    本機 AI,本機伺服器

    批次分類引擎,讀取內容一次即可在單次 GPU 運算中評分多個問題。

    未驗證
  • BAIagent — AI business advisor

    本機 AI,桌面應用程式

    以本機優先的免費 AI 顧問,將網站與市場證據轉化為有來源的假設與試點計畫。

    未驗證免費
  • LLMxRay

    本機 AI,自架網頁應用

    用於 Ollama 的本機可觀測性介面,可聊天、檢視提示詞並查看快取與延遲指標。

    已在 Linux 驗證免費
  • Aura

    本機 AI,自架網頁應用

    自架的 AI agent,具備工具、檢索、記憶、排程任務與網頁駕駛艙。

    已在 Linux 驗證
  • Unlimited Context

    本機 AI,命令列工具

    本機優先的虛擬記憶體引擎,讓小型本機 LLM 以切片方式存取十億 token 的磁碟池。

    已在 Linux 驗證免費
  • PocketLLM

    本機 AI,命令列工具

    單裝置推論引擎,透過 C 核心執行 Qwen3 文字、視覺與語音模型。

    已在 Linux 驗證
  • llama.cpp-v100

    本機 AI,本機伺服器

    針對 NVIDIA V100 GPU 最佳化的 llama.cpp 分支,用於長上下文 LLM 服務。

    未驗證
  • Cascadia

    本機 AI,本機伺服器

    透過 OpenAI 相容 API 在多台 Intel 機器間分散 LLM 推論

    未驗證
  • llama-dash

    本機 AI,自架網頁應用

    自託管閘道,將本機推論轉為可觀測、受原則控管的 API 進入點。

    未驗證
  • OpenFlowLM

    本機 AI,命令列工具

    社群分支版本,可在 Ryzen AI NPU 上執行 LLM 與 embedding 模型。

    未驗證
  • Frink

    本機 AI,命令列工具

    以 Pure Rust 打造的引擎,可載入 GGUF 檢查點並執行量化 dense 與 MoE 推論。

    已在 Linux 驗證
  • GLiNER Browser Use

    本機 AI,命令列工具

    瀏覽器 agent,使用本機 GLiNER2 為頁面控制項評分並在 Chrome 中執行動作。

    已在 Linux 驗證
  • OneAsr

    本機 AI,桌面應用程式

    本機離線應用程式,可批次將音訊/影片轉錄為 SRT、ASS 與 TXT 字幕。

    已在 macOS 驗證
  • Big Blue Fish Desktop Pet

    本機 AI,桌面應用程式

    桌面寵物,使用 OCR 讀取螢幕文字,並透過本機 LLM 以對話泡泡聊天。

    已在 Linux 驗證
  • Sano

    本機 AI,桌面應用程式

    完全在裝置端將個人文件製作成越南語 AI 旁白的有聲書。

    未驗證免費
  • qMLX

    本機 AI,本機伺服器

    磁碟快取的推論伺服器,在 Mac 上保持 122B 混合式 Qwen 模型於就緒狀態。

    未驗證
  • Accuretta

    本機 AI,桌面應用程式

    用於執行本機 GGUF 模型的桌面工作區,具備 agent 檔案、shell 與預覽工具。

    未驗證
  • Kaman AI Translator

    本機 AI,桌面應用程式

    在英文與波斯文之間批次自動翻譯 PDF 與 EPUB 書籍的桌面應用程式。

    未驗證免費
  • SwarmLLM

    本機 AI,自架網頁應用

    免費應用程式,在個人電腦上執行 AI 對話模型,並串連多台電腦以執行更大模型。

    未驗證免費
  • Defuse

    本機 AI,桌面應用程式

    桌面應用程式,使用裝置端模型在本機移除圖片背景。

    已在 Linux 驗證
  • Paparats MCP

    本機 AI,MCP 伺服器

    自託管 MCP 伺服器,可跨多個儲存庫進行語意程式碼搜尋,並結合呼叫圖與 git 歷史記錄。

    未驗證免費
  • vllm-rlt

    本機 AI,本機伺服器

    用於循環語言模型的推論引擎,具備迴圈層級連續批次處理。

    已在 Linux 驗證
  • lilbee

    本機 AI,命令列工具

    單一執行檔中的本機 AI 堆疊,可執行模型並附帶引用搜尋檔案、程式碼與網路。

    已在 Linux 驗證
  • Llama GUI

    本機 AI,自架網頁應用

    用於設定與執行 llama.cpp 伺服器的本機啟動器與控制台。

    已在 Linux 驗證
  • OpenJet

    本機 AI,命令列工具

    離線 coding agent,會在你的 GPU 上設定並執行本機模型。

    已在 Linux 驗證
  • AX Engine

    本機 AI,本機伺服器

    Apple Silicon 執行環境,透過 OpenAI 相容端點提供多個本機 LLM 模型。

    未驗證
  • NInfer 5090 Windows

    本機 AI,本機伺服器

    NInfer 引擎的 Windows 原生移植版,用於單 GPU 的文字、圖像與影片推論。

    未驗證
  • fak

    本機 AI,命令列工具

    開放式執行環境,用於在你的電腦上以原生推論執行實用的本機 AI agent。

    未驗證
  • ohmail

    本機 AI,桌面應用程式

    以同意為優先的電子郵件用戶端,將郵件分類至實際 IMAP 資料夾並提供新寄件者篩選。

    已在 macOS 和 Linux 驗證
  • kern

    本機 AI,命令列工具

    與模型無關的 GPU 執行環境,將模型以經驗證的資訊清單套件形式交付。

    已在 Linux 驗證
  • TubeCLI

    本機 AI,命令列工具

    自行託管的開源 AI agent 團隊,可製作影片、操作瀏覽器、部署網站及執行任務。

    已在 Linux 驗證免費
  • MFQ

    本機 AI,命令列工具

    MFQ 可量化大型模型,並以原生 CUDA 與 Metal 執行環境在本機執行。

    已在 Linux 驗證
  • etiny

    本機 AI,命令列工具

    離線輕量模型,掃描 Markdown 筆記,提供關於目標、職涯與提案的精煉書籍建議。

    已在 Linux 驗證
  • LLM Wiki v2

    本機 AI,命令列工具

    將文件轉為 Markdown wiki,可歸檔筆記並附帶引用回答問題。

    已在 Linux 驗證免費
  • LocalHarness

    本機 AI,命令列工具

    自託管 agent harness,在本機提供的 LLM 上執行 AI agent,並提供工具與權限控管。

    已在 Linux 驗證免費
  • AJEAN

    本機 AI,本機伺服器

    單一執行檔,執行具備聊天、記憶、工具與手機存取能力的本機 AI 助理。

    已在 Linux 驗證
  • LokalBot

    本機 AI,桌面應用程式

    裝置端個人情境引擎,用於會議記錄、畫面回憶、聽寫與自動完成。

    已在 macOS 和 Linux 驗證免費
  • HilbertRaum

    本機 AI,桌面應用程式

    私密離線 AI 工作空間,可在本機聊天、查詢文件與 Wikipedia。

    已在 macOS 和 Linux 驗證免費
  • Berth

    本機 AI,命令列工具

    排程 GPU 記憶體,讓聊天、圖像、語音引擎、遊戲與應用程式輪流使用,避免 OOM 當機。

    已在 Linux 驗證
  • OvertChat

    本機 AI,自架網頁應用

    自託管聊天介面,支援本機與雲端 AI 模型,具備搜尋、語音與行動 App。

    已在 Linux 驗證免費
  • StartLux-Prism

    本機 AI,本機伺服器

    透過 API 提供 GGUF 檔中的 StartLux-Decision 模型,回傳各選項的校準機率。

    未驗證
  • Speech Studio

    本機 AI,桌面應用程式

    離線 AI 語音工作室,以複製聲音朗讀文字,並轉錄含講者標示的錄音。

    未驗證免費
  • gmlx

    本機 AI,命令列工具

    本機平台,可在 Apple Silicon 上透過聊天、API 伺服器與語音執行 GGUF 模型。

    未驗證
  • Imagination Studio by keys+Wasserman

    本機 AI,自架網頁應用

    本機 AI 影片工作室,可依劇組模式規劃影片並算圖產生圖片、影片、語音與音樂。

    未驗證
  • hasso5703/dgx-spark-qwen38

    本機 AI,本機伺服器

    一鍵安裝程式,將 DGX Spark 或 GB10 主機轉為具備 LLM、圖片與影片功能的私人本機 AI 伺服器。

    未驗證免費
  • Paddock

    本機 AI,本機伺服器

    以 Rust 打造的推論伺服器,支援在 NVIDIA 與 Apple Silicon 上執行開放模型,並提供 API 與 Studio。

    已在 Linux 驗證免費
  • brainstorm-mcp

    本機 AI,MCP 伺服器

    MCP 伺服器,讓 AI 模型進行多輪辯論並回傳綜合結論。

    已在 Linux 驗證
  • llamAmpere

    本機 AI,本機伺服器

    針對 RTX 30 系列 Ampere GPU 最佳化的 llama.cpp 分支,可在本機執行 LLM。

    未驗證免費
  • AOCI-CODE

    本機 AI,MCP 伺服器

    為 coding agent 維護持久化、具 Git 版本控管的程式碼庫與資料庫結構描述索引的本機優先 MCP 伺服器與 Go CLI。

    已在 Linux 驗證
  • warpdrv

    本機 AI,桌面應用程式

    桌面工具組,用於管理 llama-server 執行個體並與本機 LLM 對話。

    未驗證免費
  • gutsy

    本機 AI,本機伺服器

    本機 CPU 決策模型,為是非、選擇或評分問題回傳校準後的機率。

    已在 Linux 驗證
  • Open GENAI

    本機 AI,自架網頁應用

    使用本機 OpenAI 相容 LLM 在本機自行託管日本數位廳 GENAI 的非官方方案。

    未驗證
  • HoldSpeak

    本機 AI,命令列工具

    本機語音輸入、會議轉錄,以及基於你工作內容的有據問答。

    已在 Linux 驗證免費
  • speech.cpp

    本機 AI,命令列工具

    以 C++ 打造的本機工具,提供語音合成、辨識與語音活動偵測。

    未驗證
  • Meeting Transcriber

    本機 AI,桌面應用程式

    裝置端 macOS 應用程式,錄製會議、於本機轉錄、區分講者並產生 Markdown 會議記錄。

    已在 macOS 驗證免費
  • PolyStrata

    本機 AI,本機伺服器

    PolyStrata 在本機執行大型開放 AI 模型,並透過本機 API 提供服務。

    未驗證免費
  • yovoice

    本機 AI,桌面應用程式

    開源本機工作室,用來進行語音合成、聲音複製、AI 歌曲與多軌樂譜製作。

    未驗證免費
  • mere.run

    本機 AI,命令列工具

    本機 AI 執行環境 CLI,可產生媒體、執行語言模型並提供 API。

    未驗證
  • PegaInfer

    本機 AI,本機伺服器

    以 Rust 與 CUDA 打造的引擎,透過 OpenAI 相容 API 提供 LLM 服務。

    未驗證
  • hal0

    本機 AI,自架網頁應用

    自架家用 AI 平台,將 Linux 主機變為私有的 OpenAI 相容推論設備。

    未驗證免費
  • Glyd

    本機 AI,命令列工具

    Glyd 以無損方式壓縮 AI 模型權重與 KV cache 以節省 GPU 記憶體。

    未驗證
  • Ouroboros

    本機 AI,桌面應用程式

    Ouroboros 是具備持久記憶與專家 agent 群組的自我創建通用 AI agent。

    已在 Linux 驗證
  • BigMoeOnEdge

    本機 AI,命令列工具

    透過從快閃記憶體串流 experts,於本機執行大於 RAM 的 Mixture-of-Experts 模型。

    已在 Linux 驗證
  • Janus

    本機 AI,本機伺服器

    單一 Go 執行檔,可在本機執行 GGUF 模型並提供 OpenAI 相容 API。

    未驗證
  • Pinvou Agent

    本機 AI,桌面應用程式

    開源桌面 AI 工作區,整合工具、檔案與知識以交付工作、設計與程式開發成果。

    未驗證
  • vla.cpp

    本機 AI,命令列工具

    基於 llama.cpp 打造、適用於 Vision-Language-Action 模型的 C++ 推論引擎。

    未驗證
  • Guaardvark

    本機 AI,自架網頁應用

    自架 AI 工作室,用於本機聊天、agent、程式開發與媒體生成。

    未驗證
  • Kwipu

    本機 AI,命令列工具

    Kwipu 會將 Markdown 資料夾索引為屬性圖譜 RAG 索引,用於有依據的問答。

    未驗證
  • CosmoEdge

    本機 AI,自架網頁應用

    用於影片分析與裝置端 vision-language 任務的 C++ edge AI 引擎。

    未驗證免費
  • ReadAny

    本機 AI,桌面應用程式

    本機優先的 AI 電子書閱讀器,支援桌面與行動裝置,提供 RAG 對話、語意搜尋與 WebDAV 同步。

    已在 Linux 驗證免費
  • PM-Shawn/Abu-Cowork

    本機 AI,桌面應用程式

    以本機優先的 AI 桌面助理,透過檔案、指令與內建技能規劃並執行任務。

    未驗證
  • AI Grid

    本機 AI,命令列工具

    將自有電腦透過單一端點組網,用於本機推論與訓練。

    未驗證
  • Cognithor · Agent OS

    本機 AI,命令列工具

    以本機為優先、用於 AI 實驗與個人自動化的自治 agent OS。

    未驗證
  • Bonsai Demo

    本機 AI,本機伺服器

    在本地端執行 Bonsai 2 語言模型的工具,具備聊天、視覺與工具支援。

    未驗證
  • MDFlux

    本機 AI,桌面應用程式

    將任何文件轉為乾淨、適合 AI 使用的 Markdown,支援 OCR 與批次資料夾轉換,可完全離線執行。

    未驗證
  • AReno

    本機 AI,命令列工具

    單節點 LLM RL 後訓練、微調與部署的一體化工具組。

    未驗證
  • peonist-ai/halogen-flash-server

    本機 AI,本機伺服器

    透過 OpenAI 與 Anthropic APIs 在 Strix Halo 上執行 Qwen3.8-Flash-Next 的本機推論伺服器。

    未驗證
  • Dub Studio

    本機 AI,桌面應用程式

    離線工作室,使用複製語音與翻譯字幕將影片配音為其他語言。

    未驗證免費
  • Muesli

    本機 AI,桌面應用程式

    本機優先的 macOS 應用程式,用於聽寫與會議轉錄及筆記。

    未驗證免費
  • Off Grid AI

    本機 AI,桌面應用程式

    適用於手機與 Mac 的離線 AI 套件,提供聊天、圖像生成、視覺與語音功能。

    未驗證
  • TensorFold

    本機 AI,本機伺服器

    透過 Zig 二進位檔在 Apple Silicon 與 NVIDIA GPU 本機提供語言模型服務。

    未驗證
  • Vocello

    本機 AI,桌面應用程式

    私密語音工作室,在 Apple Silicon 本機上依腳本與聲音生成語音。

    未驗證免費
  • OrkasVideoStudio

    本機 AI,命令列工具

    透過可編輯的 plan.json 時間軸起草、編輯與生成影片的 agent 驅動工具組。

    未驗證
  • hipfire

    本機 AI,命令列工具

    用於在 AMD GPU 上本機執行 LLM 的 Rust 推論引擎。

    未驗證
  • Camelid

    本機 AI,桌面應用程式

    Rust 應用程式,透過桌面、瀏覽器與終端機使用 GGUF 模型進行離線聊天、檔案處理與程式開發。

    已在 macOS 和 Linux 驗證免費
  • Whisper Local

    本機 AI,桌面應用程式

    離線隨按即說 AI 聽寫工具,在 Windows 與 macOS 上於游標位置輸入語音內容。

    已在 macOS 驗證免費
  • ggrun

    本機 AI,命令列工具

    終端機啟動器,可透過 llama.cpp 後端規劃並執行本機 GGUF 模型。

    已在 Linux 驗證
  • webbrain-one/webbrain

    本機 AI,Browser extension

    開源瀏覽器擴充功能,在側邊面板置入 AI agent,可與頁面對話並自動化多步驟瀏覽器任務。

    未驗證免費
  • SpeakoFlow

    本機 AI,桌面應用程式

    離線語音聽寫應用程式,內建 AI 助理可輸入文字、回答問題並轉錄會議。

    已在 Linux 驗證免費
  • pmetal

    本機 AI,命令列工具

    以 Rust 打造的框架,用於在 Apple Silicon 上以 MLX/Metal 加速微調、推論與提供 LLM 服務。

    未驗證免費
  • Izwi

    本機 AI,桌面應用程式

    本機優先的語音 AI 應用程式,用於語音轉文字、TTS、聊天與 API 服務。

    未驗證
  • CrispASR

    本機 AI,命令列工具

    C++ 二進位程式,透過統一的 CLI 在本機執行多語言 ASR 與 TTS 模型。

    未驗證
  • Textus

    本機 AI,桌面應用程式

    新一代 Markdown 編輯器,內建 AI 寫作助理。適用於 macOS、Windows 和 Linux,免費開源。

    未驗證
  • JANG

    本機 AI,命令列工具

    混合精度的量化格式與執行環境,可透過 MLX 在 Apple Silicon 上執行 LLM。

    未驗證
  • TensorSharp

    本機 AI,命令列工具

    本機 .NET 推論引擎,透過 CLI、瀏覽器對話與相容 API 執行 GGUF 模型。

    未驗證免費
  • slotstream

    本機 AI,命令列工具

    原生 Apple Silicon 引擎,從 SSD 串流 105 GB 的 mixture-of-experts 模型,以 CLI 與相容 API 離線執行。

    未驗證
  • llmman

    本機 AI,命令列工具

    透過單一 CLI 在任何本機或託管模型上執行任何 AI agent,模型以 OCI images 儲存。

    已在 Linux 驗證
  • Tau

    本機 AI,命令列工具

    Tau 是可適應的程式開發 harness,提供具備監控、工具與 subagent 的多供應商 AI agent。

    已在 Linux 驗證
  • MLX-Serve

    本機 AI,桌面應用程式

    適用於 Apple Silicon 的本機 LLM 與媒體伺服器,透過相容 OpenAI 的 API 離線執行聊天、coding agent、圖片、影片、音樂與語音模型。

    未驗證免費
  • Sentient OS

    本機 AI,桌面應用程式

    Mac 上的本機個人 AI,夜間學習脈絡並協助完成工作。

    未驗證免費
  • audio.cpp

    本機 AI,命令列工具

    用於執行語音、音樂與分析本機音訊模型的 C++ 框架。

    未驗證
  • Atomic Chat

    本機 AI,桌面應用程式

    在地 AI 應用與推論引擎,透過 OpenAI 相容本機伺服器離線私有執行 open-weight LLM。

    未驗證
  • LlamaStash

    本機 AI,終端機應用程式

    以終端機為原生的編排工具,在單一 proxy 後方執行本機 LLM 引擎與模型。

    已在 Linux 驗證
  • Nietzschian Debugger

    本機 AI,命令列工具

    以提問取代直接給答案的 CLI 除錯器,協助培養更強的除錯能力。

    已在 Linux 驗證
  • MindRoom

    本機 AI,本機伺服器

    自架的 Matrix 聊天 agent,支援任意模型,供個人與團隊使用。

    未驗證
  • PocketPaw

    本機 AI,桌面應用程式

    自託管個人 AI agent,於本機執行並提供桌面與網頁儀表板。

    未驗證免費
  • TurboLLM

    本機 AI,命令列工具

    以針對 GPU 自動調校的本機 LLM 引擎執行,提供網頁介面與相容 API。

    已在 Linux 驗證免費
  • ComfyUI

    本機 AI,自架網頁應用

    ComfyUI 是以節點圖為基礎的生成引擎,使用擴散模型產生圖片、影片、3D 與音訊。

    已在 Linux 驗證
  • Locals

    本機 AI,命令列工具

    Locals 是適用於 Apple 晶片 macOS 的本機推論伺服器,可執行 AI 模型以並行處理大量 agent 請求,並加速工具呼叫。

    未驗證
  • Twigpine/zero

    本機 AI,命令列工具

    終端機 AI coding agent,可檢查儲存庫、編輯檔案並執行指令,支援本機工作階段與自選模型。

    未驗證
  • Jan

    本機 AI,桌面應用程式

    在電腦上離線執行 LLM 的開源 ChatGPT 替代方案。

    已在 macOS 和 Linux 驗證
  • Llama

    本機 AI,桌面應用程式

    透過本機伺服器執行本機 LLM 的 macOS 選單列應用程式。

    已在 macOS 驗證
  • vMLX

    本機 AI,本機伺服器

    自架推論伺服器,在 Apple Silicon 上執行 LLM、VLM 與圖片生成。

    未驗證
  • Lucebox

    本機 AI,本機伺服器

    適用於異質硬體與消費級 GPU 的推測式 LLM 推論伺服器。

    未驗證
  • Tabby

    本機 AI,本機伺服器

    自行託管的 AI 程式碼助理,提供程式碼補全與聊天功能。

    已在 Linux 驗證免費
  • Hillock

    本機 AI,命令列工具

    本機神經符號記憶引擎,以 SQLite 圖譜搭配 HDC 與 Hebbian 關聯儲存事實。

    未驗證
  • linecast

    本機 AI,命令列工具

    使用免費公開資料提供天氣、潮汐、日月、地圖與天象館檢視的終端機套件。

    已在 Linux 驗證
  • whisper.cpp

    本機 AI,命令列工具

    OpenAI Whisper 的 C/C++ 移植版,用於離線語音轉文字推論。

    已在 macOS 驗證
  • MTPLX

    本機 AI,命令列工具

    在 Apple Silicon 上執行本機語言模型的工具,使用原生多 token 預測解碼。

    未驗證
  • Rapid-MLX

    本機 AI,本機伺服器

    為 coding agent 打造的 Apple Silicon 本機 LLM 推論伺服器,基於 MLX 建置,相容 OpenAI 與 Anthropic API。

    未驗證免費
  • Ollama

    本機 AI,本機伺服器

    Ollama 是可在本機或雲端執行開放式 LLM 的工具,提供 CLI 與 API 存取。

    已在 Linux 驗證

怎麼看工具卡

縫線
pickfit 親自安裝過這款工具,縫線下方的內容都來自那次測試。沒測過的工具,一律沒有縫線。
已在你的作業系統上驗證
安裝步驟在你選的系統上跑過。「只在 Linux 上執行過」表示還沒在你的系統上跑過。
macOS、Linux 和 Windows在哪裡測過
綠色系統標記:pickfit 在該系統跑過安裝步驟。灰色:README 說支援,但 pickfit 還沒試過。
測試進行到哪一步
能安裝並啟動、主要功能可用、服務有回應、能產生模型輸出。視窗代表桌面應用程式已開啟;插頭代表 MCP 用戶端用過它。標記在測試結果旁邊:展開「為什麼適合、我們怎麼知道」,或在「pickfit 怎麼測的」裡。
視覺檢查
pickfit 看過應用程式的截圖。綠色:畫面正常。黃色加數字:有看起來不對的地方,點開就能看到。灰色虛線:還沒檢查。
已知漏洞
它安裝的套件有沒有已知的高風險或嚴重漏洞(OSV.dev)。綠色:沒有已知漏洞。紅色加數字:有幾個,點開看清單,安裝前先看過。灰色虛線:沒有檢查,不代表安全。
關於這次測試
測試日期,以及測到的版本。
理由的來源
每個推薦理由都依據簡介裡的一個欄位。展開理由就能看到欄位和值。
寶藏
品質高、少有人知。
品質與知名度
兩個分數,滿分都是 100。品質:pickfit 試裝、試用的結果,以及安裝文件和維護狀況。知名度:看星數、下載量和 Hacker News。
已檢查的功能
README 宣傳的主要功能裡,實測通過幾項(綠色)、失敗幾項(紅色)。灰色是沒檢查的,工具卡會說明原因。
未驗證
Fitz 依一般知識提到的知名工具。沒有測試紀錄、沒有步驟、沒有分數。