所有驗證過的工具
這裡的每款工具,pickfit 都親自試過
顯示 291 / 291 款工具 · 本機 AI 工具
工具
Voxclip
本機 AI,命令列工具
隱私優先的 CLI,在本機錄音並以 Whisper 轉錄至剪貼簿。
已在 Linux 驗證Nightage
本機 AI,終端機應用程式
完全在本機執行的終端機 AI agent,透過 Ollama 具備記憶聊天、網路研究與程式碼撰寫功能。
已在 Linux 驗證免費OpsTrellis
本機 AI,桌面應用程式
離線語音聽寫工具,透過快速鍵將清理後的口述文字插入任何 App。
已在 macOS 和 Linux 驗證免費Contemplative Agent
本機 AI,命令列工具
可自主發文並提出提示詞 harness 修訂以供人工核准的 Local-LLM agent。
已在 macOS 和 Linux 驗證PBP — Persönliches Bewerbungs-Portal
本機 AI,MCP 伺服器
面向 DACH 市場的本機求職助手,用來搜尋職缺、追蹤應徵並分析履歷。
已在 Linux 驗證免費JevAlt
本機 AI,本機伺服器
三個 4B 模型在選項間做出選擇並回傳機率,透過 Jev API 在本機執行。
已在 Linux 驗證免費Graphiti Local
本機 AI,命令列工具
本機優先的時序知識圖譜,作為 agent 記憶並支援人工核准的更新。
已在 Linux 驗證M1K3
本機 AI,桌面應用程式
適用於 Apple Silicon Mac 的本機 AI 助理,具裝置端推論、語音、RAG 與 MCP 伺服器。
已在 macOS 驗證免費hako
本機 AI,命令列工具
從零打造的 C 引擎,可在 CPU 上執行 hako-sho 3B 與 hako-koi 7B 模型。
已在 Linux 驗證Filo
本機 AI,命令列工具
自架 AI 聊天,用於在終端機與 Telegram 中進行成人自我反思。
已在 Linux 驗證免費omm
本機 AI,命令列工具
本機 GGUF 模型套件管理工具,可安裝、連結、排名與驗證模型。
已在 Linux 驗證Flyweight
本機 AI,本機伺服器
透過 OpenAI/Anthropic API,從原生 C++/CUDA 執行環境提供 GGUF/safetensors LLM。
已在 Linux 驗證Quassel
本機 AI,桌面應用程式
本機隨按即講語音輸入,離線語音轉文字並在游標處輸入。
已在 macOS 驗證免費TenSeiAi
本機 AI,命令列工具
以純 Python 與 NumPy 打造的 Mixture-of-Experts 語言模型與離線 AI 引擎。
已在 macOS 和 Linux 驗證LIXBON
本機 AI,本機伺服器
分散式 GPU 叢集上的自託管 LLM 閘道,支援 OpenAI API 與多用戶端應用程式。
已在 Linux 驗證Emerald
本機 AI,網頁應用
瀏覽器工具,直接在使用者 GPU 上於本機放大圖片,無需上傳。
已在瀏覽器實測,不限系統免費inlaut
本機 AI,桌面應用程式
本機 macOS 選單列應用程式,提供離線德文與英文語音聽寫。
已在 macOS 驗證免費Poindexter
本機 AI,自架網頁應用
本機優先引擎,會發掘主題、研究、撰寫、QA 審核並發布貼文。
已在 Linux 驗證MyFocalAI
本機 AI,自架網頁應用
從精選來源彙整 AI 新聞,以 LLM 評分相關性並提供儀表板。
已在 Linux 驗證免費ThunderTalk
本機 AI,桌面應用程式
本機 macOS 語音工具組,支援快捷鍵聽寫、含講者標記的轉錄與文字轉語音。
已在 macOS 驗證免費mcp-inicio-ia
本機 AI,MCP 伺服器
MCP 伺服器,使用 SQLite FTS5 索引 Markdown 文件,並提供筆記與 Ollama 助理。
已在 Linux 驗證HomeBotBuild
本機 AI,自架網頁應用
在 Windows 或 Linux PC 上離線執行本機 LLM 的私有自架家用 AI。
已在 Linux 驗證免費ellmos BACH
本機 AI,命令列工具
本機優先、面向 LLM agent 的文字作業系統,具備 SQLite 記憶、工具、排程器與協同作業功能。
已在 Linux 驗證免費NexusAgent
本機 AI,命令列工具
零設定的本機 AI agent 框架,具備多 agent 協調與 GraphRAG 記憶。
已在 Linux 驗證免費Quill
本機 AI,桌面應用程式
免費開源的語音聽寫應用程式,提供逐字聽寫與經 LLM 潤飾的 Scribe 語音輸入。
已在 macOS 驗證免費Lumen
本機 AI,命令列工具
Rust 執行檔,在本機以 GPU 常駐方式執行 Qwen LLM,並提供 OpenAI 相容 API。
已在 Linux 驗證免費Speechos
本機 AI,自架網頁應用
本機優先的語音工作區,可在裝置上錄音、轉錄、分析與合成語音。
已在 Linux 驗證omarchy-cluster
本機 AI,命令列工具
在多台連網機器上將單一本機模型作為單一 OpenAI 相容端點執行。
已在 macOS 和 Linux 驗證engine-mlx
本機 AI,本機伺服器
為 Apple Silicon 打造的 Rust 推論引擎,透過 OpenAI API 在本機執行量化 LLM。
未驗證freetoken-rdna3
本機 AI,本機伺服器
在 RX 7900 GPU 上執行 Qwen3.8-Flash-Next MoE 模型,並透過相容於 OpenAI 的本機伺服器提供服務。
未驗證BitRun
本機 AI,命令列工具
免編譯執行器與終端機儀表板,用於在 CPU 上執行 1-bit 三元 LLM。
已在 macOS 和 Linux 驗證chimera
本機 AI,命令列工具
單一靜態二進位檔與函式庫,透過 ggml 在本機進行文字、音訊與影像推論。
已在 Linux 驗證NeuralDeck
本機 AI,桌面應用程式
桌面應用程式,透過本機 LLM 將 PDF、Word、PowerPoint 和文字檔轉成 Anki 閃卡。
已在 Linux 驗證LocaLM
本機 AI,命令列工具
離線 CLI 工具,在本機執行 LLM,用於聊天、寫程式、圖像/音樂/影片生成、RAG、記憶與語音。
已在 Linux 驗證Factor
本機 AI,命令列工具
裝置端 AI agent,具備聊天、通話、語音、瀏覽器與桌面工具。
已在 macOS 和 Linux 驗證crow-nest
本機 AI,本機伺服器
Rust 與 CUDA 推論引擎,透過 OpenAI 相容 API 在本機提供量化 LLM 服務。
未驗證Flint
本機 AI,桌面應用程式
本機優先的桌面 AI 工作區,可與本機模型對話並透過 agent 協助處理檔案。
已在 Linux 驗證turbograph
本機 AI,命令列工具
以 Go 打造的本機圖譜 RAG 引擎,用於文件的混合稠密與詞彙檢索。
未驗證Turing Engine
本機 AI,命令列工具
透過終端機對話與相容 API 閘道在本機提供大型語言模型服務。
未驗證免費ELI v2.0
本機 AI,桌面應用程式
本機優先的私密 AI 助理,具備語音、視覺、記憶與桌面操控,可完全離線執行。
已在 macOS 驗證免費OpenScissors
本機 AI,桌面應用程式
離線桌面 App,透過 AI 提案與筆刷細修去背照片主體。
未驗證quantpicker
本機 AI,命令列工具
在你的 GPU 上測量 GGUF 量化版本的執行速度與品質損失,以挑選可接受的最快版本。
已在 macOS 和 Linux 驗證mini-infer
本機 AI,本機伺服器
極簡教育用 LLM 推論引擎,具備連續批次處理與分頁 KV-cache,適用於 Qwen2.5。
已在 Linux 驗證免費Mnemai
本機 AI,桌面應用程式
免費的桌面 AI 介面,為雲端與離線模型提供共享的本機記憶。
未驗證Difflet
本機 AI,命令列工具
透過 CLI、Python API 與伺服器執行 diffusion transformer 圖片與影片模型。
已在 Linux 驗證AgentLoom
本機 AI,本機伺服器
可組合的 C++20 agent 執行環境,具備 gateway、角色工作階段、記憶、視覺與本機推論。
未驗證infai
本機 AI,終端機應用程式
透過啟動設定檔執行 llama.cpp 與 vLLM 模型並提供遙測資訊的控制平面 TUI。
已在 Linux 驗證Krill
本機 AI,命令列工具
Mac 原生二進位檔,可執行本機 LLM 並提供 coding agent、聊天 TUI 與 API 伺服器。
未驗證Mithril
本機 AI,本機伺服器
協調引擎,透過單一 Ollama 相容 API 在多個 LLM 供應商之間路由請求。
已在 macOS 和 Linux 驗證Kvasir AI Network
本機 AI,本機伺服器
分散式推論系統,將大型 GGUF 模型分片為跨機器的多個階段。
未驗證Generator Assets
本機 AI,命令列工具
本機無頭管線,使用 Vulkan GGUF 引擎產生遊戲素材、AI 影片與音樂循環。
已在 Linux 驗證免費WyvernTKC/llama.cpp-4xV100
本機 AI,本機伺服器
llama.cpp 的分支,支援在 4x Tesla V100 GPU 上進行張量並行 LLM 推論。
未驗證Whisper Transcription API Installer
本機 AI,本機伺服器
自架語音轉文字伺服器安裝程式,提供相容於 OpenAI 的轉錄與翻譯 API。
未驗證Knemora
本機 AI,自架網頁應用
開源的本機優先知識平台,具備 Second Brain 圖譜、Markdown wiki 與本機 AI 聊天。
未驗證免費NEOTH
本機 AI,本機伺服器
本機優先的個人 AI daemon,具備五層記憶、需授權的工具與外掛。
未驗證Vortelio
本機 AI,本機伺服器
開源本機平台,可離線執行 LLM 並生成圖片、音訊、影片與 3D。
已在 Linux 驗證免費Tractus
本機 AI,桌面應用程式
本機優先 macOS 應用程式,將錄音轉為可搜尋、可引用的轉錄筆記。
未驗證Verdict
本機 AI,本機伺服器
用於 System One 決策模型的高效能推論引擎,提供 HTTP API。
未驗證PocketTTS-RAVEN
本機 AI,網頁應用
在瀏覽器中將文字轉語音的工具,可在本機產生語音並複製聲音。
已在瀏覽器實測,不限系統WaveRedact
本機 AI,命令列工具
本機管線,可轉錄音訊並以靜音或嗶聲取代片段來抹除個資。
未驗證免費sipllm
本機 AI,命令列工具
無依賴的 C++17 引擎,透過一次串流一層的方式執行量化後的 GGUF LLM。
未驗證local-jev
本機 AI,命令列工具
用於快速自主 agent 選擇、評分、路徑與 noul 決策的離線 CPU 引擎。
已在 Linux 驗證免費Tidytalk
本機 AI,桌面應用程式
適用於 macOS 的私密語音輸入工具,在裝置端辨識語音並貼上整理後的文字。
未驗證免費Garmin Health Pipeline
本機 AI,命令列工具
自架 agent,可分析 Garmin 健康資料並透過 Telegram 或 LLM 建立訓練計畫。
未驗證免費OpenRamble
本機 AI,桌面應用程式
免費開源 Mac App,提供離線按住說話聽寫與本機會議轉錄。
未驗證免費Shura
本機 AI,命令列工具
在單張遊戲 GPU 上執行 35B MoE 程式碼模型,具備 checkpoint 與離線 agent。
未驗證PuffPAI BuildBot
本機 AI,自架網頁應用
BuildBot 依你核准的計畫,在你的電腦上建立並執行私有的 AI bot。
已在 Linux 驗證Charoite
本機 AI,桌面應用程式
本機會議助理,具備語音轉文字、語者分離與知識圖譜建構功能。
已在 macOS 驗證goinfer
本機 AI,命令列工具
Pure-Go 函式庫與執行檔,可從 safetensors 或 GGUF 在本機執行開放權重 LLM。
已在 macOS 和 Linux 驗證siphon.cpp
本機 AI,本機伺服器
CUDA llama.cpp 分支,可從 SSD 串流 MoE expert,在 6GB VRAM 的筆電上執行 Qwen3.6 35B。
未驗證FreeToken Kai
本機 AI,本機伺服器
非官方 FreeToken 分支,在消費級 GPU 上執行大型 MoE 模型,並提供自動調校基準測試。
未驗證arc-llama
本機 AI,命令列工具
指令列工具,偵測 Intel Arc GPU 並透過 OpenAI 相容 API 提供 GGUF 模型服務。
已在 Linux 驗證NInferno
本機 AI,本機伺服器
單 GPU LLM 推論伺服器,用於在 NVIDIA GPU 上執行 Qwen、Gemma 等 checkpoint。
未驗證drove
本機 AI,本機伺服器
按需代理,依請求載入本機模型並在閒置時卸載。
未驗證B70 Launcher
本機 AI,桌面應用程式
用於在 Intel Arc Pro B70 上執行 LLM 推論的本機桌面啟動器。
未驗證Prometheus
本機 AI,本機伺服器
在自有硬體上執行的 AI agent 常駐程式,闔上筆電後仍持續運作。
已在 macOS 和 Linux 驗證ThreeToks
本機 AI,命令列工具
小型本機 AI agent,透過選單操作在網路上搜尋並回答問題。
已在 Linux 驗證wavo
本機 AI,命令列工具
支援 Parakeet、GigaAM 與 Whisper 模型的本機 GPU 語音轉文字 CLI 與 Rust 程式庫。
已在 Linux 驗證SENTINEL
本機 AI,自架網頁應用
自架邊緣監控,具備人員偵測、人臉辨識、場景分析與告警。
未驗證darkmux
本機 AI,命令列工具
在本機 Mac 叢集上,將設定檔定義的 AI 任務作為工作圖執行。
未驗證免費ModelJars
本機 AI,命令列工具
用於探索與執行本機 JVM AI 模型的社群 marker-JAR 目錄。
已在 Linux 驗證Retrograd
本機 AI,命令列工具
透過 SFT、preference、PPO 與 GRPO,使用 LoRA 或完整權重直接微調 GGUF 模型。
未驗證Local Transcriber
本機 AI,桌面應用程式
選單列應用程式,可錄音、在本機轉錄、標記講者並聽寫。
未驗證免費babelscribe
本機 AI,命令列工具
離線工具,使用本機 GPU 將音訊/影片轉為 99 種語言的 SRT/VTT 字幕與文字。
已在 macOS 和 Linux 驗證免費LlamaToaster
本機 AI,自架網頁應用
使用 llama-bench 掃描 llama.cpp 參數,為你的硬體找出最佳設定。
未驗證AI Adapter
本機 AI,本機伺服器
整合層,將任意 AI 模型作為受治理的偵測器提供給 OpenNVR 影片分析使用。
未驗證AI Hardware Fit
本機 AI,網頁應用
網頁工具,檢查選定 GPU 能跑哪些 AI 模型並預估需求。
已在瀏覽器實測,不限系統NInfer-all
本機 AI,本機伺服器
C++/CUDA 引擎,可在 NVIDIA GPU 上執行 Qwen 與 Gemma 模型並提供 OpenAI 相容 API。
未驗證llamaMan
本機 AI,自架網頁應用
用於啟動與管理多個本機 llama.cpp 伺服器執行個體的瀏覽器介面與 API。
未驗證Quartermaster
本機 AI,本機伺服器
依 VRAM 自動設定模型的本機平台,透過 API 提供聊天、圖像與語音服務。
已在 Linux 驗證Dictate
本機 AI,桌面應用程式
按住說話的 macOS 聽寫工具,在本機轉錄語音並貼上清理後的文字。
已在 macOS 驗證免費Linggen
本機 AI,命令列工具
本機優先的 agent 執行環境,在你的電腦上執行 AI 模型,具備檔案式 skills 與 P2P 存取。
已在 Linux 驗證Cluaiz
本機 AI,命令列工具
可執行 GGUF 與 ONNX 模型以提供聊天、視覺、語音與嵌入向量的本機 Rust 引擎。
已在 macOS 和 Linux 驗證Crucible
本機 AI,本機伺服器
在 AMD Strix Halo APU 上執行 EXL3 Qwen3.8-Flash-Next 檢查點的推論引擎。
未驗證NIBIA Fabric
本機 AI,命令列工具
開源分散式 LLM 推論架構,彙整區域網路內多台電腦的 CPU 與 RAM。
未驗證Crow
本機 AI,桌面應用程式
具備工具、MCP、記憶、技能、視覺與影像生成功能的本機 AI agent。
已在 Linux 驗證免費ILLIP AI
本機 AI,自架網頁應用
本機優先的 AI 平台,提供聊天、agent 團隊、記憶與依硬體規格配置的模型商店。
已在 Linux 驗證videre
本機 AI,命令列工具
本機優先的 CLI,用於掃描、去重、搜尋與瀏覽照片與影片。
已在 Linux 驗證免費Helios
本機 AI,本機伺服器
可讀的 PyTorch 引擎,可在本機以批次處理與分頁注意力提供 Qwen3-4B 服務。
已在 Linux 驗證RigSpark
本機 AI,命令列工具
可感知硬體的 CLI,檢查本機模型是否符合硬體並估算速度。
已在 Linux 驗證免費jitllm
本機 AI,本機伺服器
JIT 推論引擎,可依硬體自動調整以更快執行 LLM,即使超出記憶體也能運行。
已在 macOS 和 Linux 驗證Self-Hosted AI Assistant
本機 AI,自架網頁應用
使用 Ollama 的本機 AI 助理平台,支援 WhatsApp 與 Telegram,具備記憶與工具。
未驗證免費SunnyNet
本機 AI,命令列工具
以 CPU 為主、O(N) 線性遞迴推論執行環境,具手寫 SIMD 核心。
已在 Linux 驗證免費Sotto
本機 AI,桌面應用程式
本機語音聽寫應用程式,離線轉錄語音並將文字插入使用中應用程式。
未驗證免費Ori
本機 AI,本機伺服器
具離線能力的 agentic IoT 執行環境,可推理感測器資料並在分級授權下行動。
已在 Linux 驗證免費Skejja
本機 AI,本機伺服器
本機 57M 模型,將短文字評分為選項、是/否或序數機率。
未驗證Ferro
本機 AI,命令列工具
輕量 C++ 推論引擎,在 Intel N100 iGPU 上執行 GGUF 嵌入、決策與對話。
已在 Linux 驗證Molten
本機 AI,命令列工具
在 Apple Silicon 上執行 LiquidAI LFM2.5 4-bit 模型的原生 Rust 加 Metal 推論引擎。
未驗證免費sm70-attn
本機 AI,本機伺服器
llama.cpp 分支,新增適用於 Tesla V100 LLM 推論的 SM 7.0 D256 FlashAttention 核心。
未驗證CoderAI
本機 AI,本機伺服器
為多模態模型提供 OpenAI 相容 API 的本機與雲端 GPU 推論協調器。
已在 Linux 驗證AirDrop-LLM
本機 AI,命令列工具
離線 P2P 中介,透過 Wi-Fi 匯集多台筆電進行管線並行的 LLM 推論。
已在 Linux 驗證ChaosEngineAI
本機 AI,桌面應用程式
桌面應用程式,用於探索、執行本機模型、與其對話、進行基準測試,以及生成圖片與影片。
已在 Linux 驗證MAZHARMIK/python-ai-agent-ollama
本機 AI,命令列工具
使用 Ollama 的本機 Python AI agent,具備記憶與多步驟工具呼叫。
已在 Linux 驗證免費Turnbook
本機 AI,MCP 伺服器
將 agent 對話逐字保留在 PC 上的本機長期記憶。
已在 Linux 驗證免費gutcheck
本機 AI,命令列工具
以淺白英文詢問行號、日誌、diff 或 JSON,並在本機即時探索答案。
未驗證免費llama-buddy
本機 AI,命令列工具
透過 llama-server 管理、下載與提供本機 LLM 的 CLI 包裝工具。
已在 Linux 驗證Astronomical
本機 AI,桌面應用程式
在 RAM 上限內,於 Apple Silicon 上執行大型稀疏語言與視覺模型的本機執行器。
未驗證NeuroBrix
本機 AI,命令列工具
開源引擎,透過單一容器格式執行語言、視覺、語音、圖像與影片模型。
已在 Linux 驗證免費Agent Mini
本機 AI,命令列工具
本機優先的 AI agent,由小型本機模型驅動,具備 shell、檔案、網路與記憶工具。
已在 Linux 驗證rMLX
本機 AI,本機伺服器
Rust 單一執行檔的 MLX 推論伺服器,適用於 Apple Silicon,用於提供本機 LLM。
未驗證arcint
本機 AI,本機伺服器
推論伺服器,在 Intel Arc GPU 上為精選模型提供 OpenAI 相容端點。
未驗證Lattice
本機 AI,命令列工具
在 Apple Silicon 與 Linux 上本機執行 transformer 模型的純 Rust 推論引擎。
已在 Linux 驗證JoyBoy
本機 AI,自架網頁應用
本機優先的 AI 工作站,用於聊天、寫程式、圖像生成、編輯、影片與模型管理。
未驗證vllm-omni-mlx
本機 AI,本機伺服器
適用於 Apple Silicon、相容 OpenAI 與 Anthropic 的全模態推論伺服器。
未驗證Mica
本機 AI,本機伺服器
Mica 是 4B 模型伺服器,為是非、選擇與評分問題回傳校準後的機率。
已在 Linux 驗證Narwhal
本機 AI,本機伺服器
可分離式 LLM 推論框架,無需重新載入權重即可熱切換 prefill 與 decode 角色。
已在 Linux 驗證Foq
本機 AI,命令列工具
免費本機決策引擎,將文字轉為具型別、經校正的決策。
已在 Linux 驗證免費oxi
本機 AI,桌面應用程式
桌面 App,在同一個聊天中整合 Claude Code、Codex 與 Cursor 訂閱及本機模型。
已在 macOS 和 Linux 驗證免費WayVoice
本機 AI,桌面應用程式
適用於 Linux 的離線語音輸入工具,在本機轉錄語音並將文字插入應用程式中。
未驗證whosaid
本機 AI,命令列工具
在 Mac 上標記會議與錄音中發言者與時間的本機離線轉錄工具。
未驗證Lingolay
本機 AI,桌面應用程式
離線螢幕翻譯工具,可讀取字幕、在本機翻譯並疊加語音配音。
未驗證免費Bittune
本機 AI,終端機應用程式
本機 agent,在你的 GPU 上部署並測試 vLLM / SGLang 推論,並提供可稽核的證據。
已在 Linux 驗證Moose
本機 AI,桌面應用程式
用於與本機 Ollama 模型或選用雲端供應商聊天的原生 Linux 應用程式。
已在 Linux 驗證免費local-model-autoresearch
本機 AI,命令列工具
自主爬山最佳化工具,可調整本機 GGUF 執行期旗標以提升速度與準確度。
未驗證免費dsh-novel-writer
本機 AI,MCP 伺服器
適用於中文小說的本機工作台,在本機準備章節素材並檢查風格。
已在 Linux 驗證免費Xyntetik Runner
本機 AI,命令列工具
在本機提供模型服務並訓練 LoRA 轉接器的單一執行檔 C GGUF 引擎。
已在 macOS 和 Linux 驗證免費Whisper Transcriber Suite
本機 AI,桌面應用程式
將音訊與影片轉為含講者標記的逐字稿與字幕的離線應用程式。
未驗證免費Naidan
本機 AI,自架網頁應用
注重隱私的本機優先 AI 應用程式,可在瀏覽器內執行模型或連接 API。
未驗證pondok-ai
本機 AI,命令列工具
用來建置私有本機 AI 堆疊的 CLI,包含 LLM、對談介面、搜尋與 API。
已在 Linux 驗證Project Zero
本機 AI,命令列工具
以 C 撰寫、僅用 CPU 的 LLM 推論引擎,可透過 CLI 與網頁聊天執行 GGUF 模型。
已在 Linux 驗證llmash
本機 AI,本機伺服器
與 Ollama 相容的 LLM 伺服器與 CLI,可在 Windows 和 Linux 上於本機執行模型。
已在 Linux 驗證WHIRL
本機 AI,本機伺服器
適用於 AMD 8060S 與 R9700 GPU 的原生 Windows C++/HIP LLM 推論引擎。
未驗證免費superfluid
本機 AI,本機伺服器
服務常駐程式,提供單一排程器與 API,跨執行環境與機器進行本機 LLM 推論。
已在 Linux 驗證mdma
本機 AI,命令列工具
LLM 推論引擎,適用於自有硬體,具備自訂核心、精確記憶體准入與私有聯邦功能。
已在 Linux 驗證免費GraphLink
本機 AI,桌面應用程式
本機優先的桌面工作空間,在畫布上以分支方式整合研究、程式碼與 agent 的 AI 工作。
未驗證Squish
本機 AI,本機伺服器
適用於 Apple Silicon 的本機 LLM 常駐程式,提供相容 OpenAI/Ollama 的 API。
未驗證Jenny
本機 AI,桌面應用程式
桌面 AI 助理,使用本機模型提供聊天、程式設計工具與成品生成功能。
未驗證免費NeuronDump
本機 AI,命令列工具
檢視本機 GGUF 模型內部結構,並產生更小但仍可執行的 GGUF 檔案。
已在 Linux 驗證llm-server
本機 AI,本機伺服器
透過 llama.cpp 執行 Qwen 35B MoE 的本機推論伺服器,具備 proxy 與基準測試。
未驗證Renfield
本機 AI,自架網頁應用
可自架的 AI 助理,支援語音衛星、工具整合與離線 RAG。
未驗證免費Infera
本機 AI,本機伺服器
分散式推論協調器,可跨 vLLM / SGLang 引擎分派請求以提升有效吞吐。
未驗證免費Sublarr
本機 AI,自架網頁應用
自架字幕管理器,為媒體庫搜尋、評分並下載字幕。
未驗證免費Atlas Inference Engine
本機 AI,本機伺服器
無相依性的 LLM 推論引擎,用於在本機工作站上執行模型。
未驗證Ollajev
本機 AI,本機伺服器
在本機透過 Jev 相容 API 執行 System One 決策模型。
未驗證hk
本機 AI,命令列工具
從頭打造的 Zig 執行環境與格式,用於本機 LLM 推論,支援 mmap 載入與 CPU / CUDA / Vulkan 引擎。
已在 Linux 驗證dlgo
本機 AI,命令列工具
純 Go 引擎,在本機執行 GGUF LLM,用於聊天、伺服器 API、視覺與圖片產生。
未驗證bloomery
本機 AI,本機伺服器
快速的 LLM 推論伺服器,支援超過 GPU 記憶體大小的 mixture-of-experts 模型。
未驗證InferBridge
本機 AI,本機伺服器
以 Intel OpenVINO GenAI 為基礎、優先支援 Windows 的 OpenAI 相容本機 LLM 伺服器,內建聊天介面與模型工具。
已在 Linux 驗證免費SnowLLM
本機 AI,命令列工具
針對 Ryzen AI Max APU 手動調校的本機 LLM 推論框架。
未驗證ReVolta
本機 AI,本機伺服器
推論伺服器,透過 OpenAI 相容 API 在多 GPU V100 伺服器上執行 Qwen3.8 Flash-Next。
未驗證MAFDET
本機 AI,命令列工具
本機聊天應用程式,在輸入時讀取訊息並預先推理,以縮短按下 Enter 後的等待時間。
已在 Linux 驗證EuLLM
本機 AI,本機伺服器
用於在地建立、分發與執行符合歐盟規範的主權 LLM 的平台。
已在 Linux 驗證Ignis
本機 AI,本機伺服器
透過 OpenAI API 提供 Qwen 27B、125B MoE 與影像模型的單 GPU 本機推論伺服器。
未驗證TandemLLM
本機 AI,本機伺服器
推論引擎,在單台 DGX Spark 上以 draft-and-verify 解碼提供開放模型服務。
未驗證jigor
本機 AI,命令列工具
零樣本分類器閘道與執行器,支援本機 ONNX 與遠端決策模型。
未驗證semquery
本機 AI,命令列工具
本機離線終端機工具,可索引文件以進行語意搜尋與附來源問答。
未驗證LLM Hub for Obsidian
本機 AI,MCP 伺服器
Obsidian 外掛,支援跨多家供應商的 AI 對話、工作流程自動化與語意搜尋。
未驗證免費Dabri
本機 AI,桌面應用程式
離線 Linux 語音轉文字應用程式,將語音聽寫至使用中視窗。
已在 Linux 驗證Android-GPU
本機 AI,本機伺服器
將 Android 手機變成離線 AI 加速器,為 PC 執行本機 LLM。
未驗證免費loudkit
本機 AI,命令列工具
本機文字轉語音工具組,支援 10 種語言共 28 種聲音、聲音複製與離線使用。
未驗證免費spinf-serve
本機 AI,本機伺服器
批次分類引擎,讀取內容一次即可在單次 GPU 運算中評分多個問題。
未驗證BAIagent — AI business advisor
本機 AI,桌面應用程式
以本機優先的免費 AI 顧問,將網站與市場證據轉化為有來源的假設與試點計畫。
未驗證免費LLMxRay
本機 AI,自架網頁應用
用於 Ollama 的本機可觀測性介面,可聊天、檢視提示詞並查看快取與延遲指標。
已在 Linux 驗證免費Aura
本機 AI,自架網頁應用
自架的 AI agent,具備工具、檢索、記憶、排程任務與網頁駕駛艙。
已在 Linux 驗證Unlimited Context
本機 AI,命令列工具
本機優先的虛擬記憶體引擎,讓小型本機 LLM 以切片方式存取十億 token 的磁碟池。
已在 Linux 驗證免費PocketLLM
本機 AI,命令列工具
單裝置推論引擎,透過 C 核心執行 Qwen3 文字、視覺與語音模型。
已在 Linux 驗證llama.cpp-v100
本機 AI,本機伺服器
針對 NVIDIA V100 GPU 最佳化的 llama.cpp 分支,用於長上下文 LLM 服務。
未驗證Cascadia
本機 AI,本機伺服器
透過 OpenAI 相容 API 在多台 Intel 機器間分散 LLM 推論
未驗證llama-dash
本機 AI,自架網頁應用
自託管閘道,將本機推論轉為可觀測、受原則控管的 API 進入點。
未驗證OpenFlowLM
本機 AI,命令列工具
社群分支版本,可在 Ryzen AI NPU 上執行 LLM 與 embedding 模型。
未驗證Frink
本機 AI,命令列工具
以 Pure Rust 打造的引擎,可載入 GGUF 檢查點並執行量化 dense 與 MoE 推論。
已在 Linux 驗證GLiNER Browser Use
本機 AI,命令列工具
瀏覽器 agent,使用本機 GLiNER2 為頁面控制項評分並在 Chrome 中執行動作。
已在 Linux 驗證OneAsr
本機 AI,桌面應用程式
本機離線應用程式,可批次將音訊/影片轉錄為 SRT、ASS 與 TXT 字幕。
已在 macOS 驗證Big Blue Fish Desktop Pet
本機 AI,桌面應用程式
桌面寵物,使用 OCR 讀取螢幕文字,並透過本機 LLM 以對話泡泡聊天。
已在 Linux 驗證Sano
本機 AI,桌面應用程式
完全在裝置端將個人文件製作成越南語 AI 旁白的有聲書。
未驗證免費qMLX
本機 AI,本機伺服器
磁碟快取的推論伺服器,在 Mac 上保持 122B 混合式 Qwen 模型於就緒狀態。
未驗證Accuretta
本機 AI,桌面應用程式
用於執行本機 GGUF 模型的桌面工作區,具備 agent 檔案、shell 與預覽工具。
未驗證Kaman AI Translator
本機 AI,桌面應用程式
在英文與波斯文之間批次自動翻譯 PDF 與 EPUB 書籍的桌面應用程式。
未驗證免費SwarmLLM
本機 AI,自架網頁應用
免費應用程式,在個人電腦上執行 AI 對話模型,並串連多台電腦以執行更大模型。
未驗證免費Defuse
本機 AI,桌面應用程式
桌面應用程式,使用裝置端模型在本機移除圖片背景。
已在 Linux 驗證Paparats MCP
本機 AI,MCP 伺服器
自託管 MCP 伺服器,可跨多個儲存庫進行語意程式碼搜尋,並結合呼叫圖與 git 歷史記錄。
未驗證免費vllm-rlt
本機 AI,本機伺服器
用於循環語言模型的推論引擎,具備迴圈層級連續批次處理。
已在 Linux 驗證lilbee
本機 AI,命令列工具
單一執行檔中的本機 AI 堆疊,可執行模型並附帶引用搜尋檔案、程式碼與網路。
已在 Linux 驗證Llama GUI
本機 AI,自架網頁應用
用於設定與執行 llama.cpp 伺服器的本機啟動器與控制台。
已在 Linux 驗證OpenJet
本機 AI,命令列工具
離線 coding agent,會在你的 GPU 上設定並執行本機模型。
已在 Linux 驗證AX Engine
本機 AI,本機伺服器
Apple Silicon 執行環境,透過 OpenAI 相容端點提供多個本機 LLM 模型。
未驗證NInfer 5090 Windows
本機 AI,本機伺服器
NInfer 引擎的 Windows 原生移植版,用於單 GPU 的文字、圖像與影片推論。
未驗證fak
本機 AI,命令列工具
開放式執行環境,用於在你的電腦上以原生推論執行實用的本機 AI agent。
未驗證ohmail
本機 AI,桌面應用程式
以同意為優先的電子郵件用戶端,將郵件分類至實際 IMAP 資料夾並提供新寄件者篩選。
已在 macOS 和 Linux 驗證kern
本機 AI,命令列工具
與模型無關的 GPU 執行環境,將模型以經驗證的資訊清單套件形式交付。
已在 Linux 驗證TubeCLI
本機 AI,命令列工具
自行託管的開源 AI agent 團隊,可製作影片、操作瀏覽器、部署網站及執行任務。
已在 Linux 驗證免費MFQ
本機 AI,命令列工具
MFQ 可量化大型模型,並以原生 CUDA 與 Metal 執行環境在本機執行。
已在 Linux 驗證etiny
本機 AI,命令列工具
離線輕量模型,掃描 Markdown 筆記,提供關於目標、職涯與提案的精煉書籍建議。
已在 Linux 驗證LLM Wiki v2
本機 AI,命令列工具
將文件轉為 Markdown wiki,可歸檔筆記並附帶引用回答問題。
已在 Linux 驗證免費LocalHarness
本機 AI,命令列工具
自託管 agent harness,在本機提供的 LLM 上執行 AI agent,並提供工具與權限控管。
已在 Linux 驗證免費AJEAN
本機 AI,本機伺服器
單一執行檔,執行具備聊天、記憶、工具與手機存取能力的本機 AI 助理。
已在 Linux 驗證LokalBot
本機 AI,桌面應用程式
裝置端個人情境引擎,用於會議記錄、畫面回憶、聽寫與自動完成。
已在 macOS 和 Linux 驗證免費HilbertRaum
本機 AI,桌面應用程式
私密離線 AI 工作空間,可在本機聊天、查詢文件與 Wikipedia。
已在 macOS 和 Linux 驗證免費Berth
本機 AI,命令列工具
排程 GPU 記憶體,讓聊天、圖像、語音引擎、遊戲與應用程式輪流使用,避免 OOM 當機。
已在 Linux 驗證OvertChat
本機 AI,自架網頁應用
自託管聊天介面,支援本機與雲端 AI 模型,具備搜尋、語音與行動 App。
已在 Linux 驗證免費StartLux-Prism
本機 AI,本機伺服器
透過 API 提供 GGUF 檔中的 StartLux-Decision 模型,回傳各選項的校準機率。
未驗證Speech Studio
本機 AI,桌面應用程式
離線 AI 語音工作室,以複製聲音朗讀文字,並轉錄含講者標示的錄音。
未驗證免費gmlx
本機 AI,命令列工具
本機平台,可在 Apple Silicon 上透過聊天、API 伺服器與語音執行 GGUF 模型。
未驗證Imagination Studio by keys+Wasserman
本機 AI,自架網頁應用
本機 AI 影片工作室,可依劇組模式規劃影片並算圖產生圖片、影片、語音與音樂。
未驗證hasso5703/dgx-spark-qwen38
本機 AI,本機伺服器
一鍵安裝程式,將 DGX Spark 或 GB10 主機轉為具備 LLM、圖片與影片功能的私人本機 AI 伺服器。
未驗證免費Paddock
本機 AI,本機伺服器
以 Rust 打造的推論伺服器,支援在 NVIDIA 與 Apple Silicon 上執行開放模型,並提供 API 與 Studio。
已在 Linux 驗證免費brainstorm-mcp
本機 AI,MCP 伺服器
MCP 伺服器,讓 AI 模型進行多輪辯論並回傳綜合結論。
已在 Linux 驗證llamAmpere
本機 AI,本機伺服器
針對 RTX 30 系列 Ampere GPU 最佳化的 llama.cpp 分支,可在本機執行 LLM。
未驗證免費AOCI-CODE
本機 AI,MCP 伺服器
為 coding agent 維護持久化、具 Git 版本控管的程式碼庫與資料庫結構描述索引的本機優先 MCP 伺服器與 Go CLI。
已在 Linux 驗證warpdrv
本機 AI,桌面應用程式
桌面工具組,用於管理 llama-server 執行個體並與本機 LLM 對話。
未驗證免費gutsy
本機 AI,本機伺服器
本機 CPU 決策模型,為是非、選擇或評分問題回傳校準後的機率。
已在 Linux 驗證Open GENAI
本機 AI,自架網頁應用
使用本機 OpenAI 相容 LLM 在本機自行託管日本數位廳 GENAI 的非官方方案。
未驗證HoldSpeak
本機 AI,命令列工具
本機語音輸入、會議轉錄,以及基於你工作內容的有據問答。
已在 Linux 驗證免費speech.cpp
本機 AI,命令列工具
以 C++ 打造的本機工具,提供語音合成、辨識與語音活動偵測。
未驗證Meeting Transcriber
本機 AI,桌面應用程式
裝置端 macOS 應用程式,錄製會議、於本機轉錄、區分講者並產生 Markdown 會議記錄。
已在 macOS 驗證免費PolyStrata
本機 AI,本機伺服器
PolyStrata 在本機執行大型開放 AI 模型,並透過本機 API 提供服務。
未驗證免費yovoice
本機 AI,桌面應用程式
開源本機工作室,用來進行語音合成、聲音複製、AI 歌曲與多軌樂譜製作。
未驗證免費mere.run
本機 AI,命令列工具
本機 AI 執行環境 CLI,可產生媒體、執行語言模型並提供 API。
未驗證PegaInfer
本機 AI,本機伺服器
以 Rust 與 CUDA 打造的引擎,透過 OpenAI 相容 API 提供 LLM 服務。
未驗證hal0
本機 AI,自架網頁應用
自架家用 AI 平台,將 Linux 主機變為私有的 OpenAI 相容推論設備。
未驗證免費Glyd
本機 AI,命令列工具
Glyd 以無損方式壓縮 AI 模型權重與 KV cache 以節省 GPU 記憶體。
未驗證Ouroboros
本機 AI,桌面應用程式
Ouroboros 是具備持久記憶與專家 agent 群組的自我創建通用 AI agent。
已在 Linux 驗證BigMoeOnEdge
本機 AI,命令列工具
透過從快閃記憶體串流 experts,於本機執行大於 RAM 的 Mixture-of-Experts 模型。
已在 Linux 驗證Janus
本機 AI,本機伺服器
單一 Go 執行檔,可在本機執行 GGUF 模型並提供 OpenAI 相容 API。
未驗證Pinvou Agent
本機 AI,桌面應用程式
開源桌面 AI 工作區,整合工具、檔案與知識以交付工作、設計與程式開發成果。
未驗證vla.cpp
本機 AI,命令列工具
基於 llama.cpp 打造、適用於 Vision-Language-Action 模型的 C++ 推論引擎。
未驗證Guaardvark
本機 AI,自架網頁應用
自架 AI 工作室,用於本機聊天、agent、程式開發與媒體生成。
未驗證Kwipu
本機 AI,命令列工具
Kwipu 會將 Markdown 資料夾索引為屬性圖譜 RAG 索引,用於有依據的問答。
未驗證CosmoEdge
本機 AI,自架網頁應用
用於影片分析與裝置端 vision-language 任務的 C++ edge AI 引擎。
未驗證免費ReadAny
本機 AI,桌面應用程式
本機優先的 AI 電子書閱讀器,支援桌面與行動裝置,提供 RAG 對話、語意搜尋與 WebDAV 同步。
已在 Linux 驗證免費PM-Shawn/Abu-Cowork
本機 AI,桌面應用程式
以本機優先的 AI 桌面助理,透過檔案、指令與內建技能規劃並執行任務。
未驗證AI Grid
本機 AI,命令列工具
將自有電腦透過單一端點組網,用於本機推論與訓練。
未驗證Cognithor · Agent OS
本機 AI,命令列工具
以本機為優先、用於 AI 實驗與個人自動化的自治 agent OS。
未驗證Bonsai Demo
本機 AI,本機伺服器
在本地端執行 Bonsai 2 語言模型的工具,具備聊天、視覺與工具支援。
未驗證MDFlux
本機 AI,桌面應用程式
將任何文件轉為乾淨、適合 AI 使用的 Markdown,支援 OCR 與批次資料夾轉換,可完全離線執行。
未驗證AReno
本機 AI,命令列工具
單節點 LLM RL 後訓練、微調與部署的一體化工具組。
未驗證peonist-ai/halogen-flash-server
本機 AI,本機伺服器
透過 OpenAI 與 Anthropic APIs 在 Strix Halo 上執行 Qwen3.8-Flash-Next 的本機推論伺服器。
未驗證Dub Studio
本機 AI,桌面應用程式
離線工作室,使用複製語音與翻譯字幕將影片配音為其他語言。
未驗證免費Muesli
本機 AI,桌面應用程式
本機優先的 macOS 應用程式,用於聽寫與會議轉錄及筆記。
未驗證免費Off Grid AI
本機 AI,桌面應用程式
適用於手機與 Mac 的離線 AI 套件,提供聊天、圖像生成、視覺與語音功能。
未驗證TensorFold
本機 AI,本機伺服器
透過 Zig 二進位檔在 Apple Silicon 與 NVIDIA GPU 本機提供語言模型服務。
未驗證Vocello
本機 AI,桌面應用程式
私密語音工作室,在 Apple Silicon 本機上依腳本與聲音生成語音。
未驗證免費OrkasVideoStudio
本機 AI,命令列工具
透過可編輯的 plan.json 時間軸起草、編輯與生成影片的 agent 驅動工具組。
未驗證hipfire
本機 AI,命令列工具
用於在 AMD GPU 上本機執行 LLM 的 Rust 推論引擎。
未驗證Camelid
本機 AI,桌面應用程式
Rust 應用程式,透過桌面、瀏覽器與終端機使用 GGUF 模型進行離線聊天、檔案處理與程式開發。
已在 macOS 和 Linux 驗證免費Whisper Local
本機 AI,桌面應用程式
離線隨按即說 AI 聽寫工具,在 Windows 與 macOS 上於游標位置輸入語音內容。
已在 macOS 驗證免費ggrun
本機 AI,命令列工具
終端機啟動器,可透過 llama.cpp 後端規劃並執行本機 GGUF 模型。
已在 Linux 驗證webbrain-one/webbrain
本機 AI,Browser extension
開源瀏覽器擴充功能,在側邊面板置入 AI agent,可與頁面對話並自動化多步驟瀏覽器任務。
未驗證免費SpeakoFlow
本機 AI,桌面應用程式
離線語音聽寫應用程式,內建 AI 助理可輸入文字、回答問題並轉錄會議。
已在 Linux 驗證免費pmetal
本機 AI,命令列工具
以 Rust 打造的框架,用於在 Apple Silicon 上以 MLX/Metal 加速微調、推論與提供 LLM 服務。
未驗證免費Izwi
本機 AI,桌面應用程式
本機優先的語音 AI 應用程式,用於語音轉文字、TTS、聊天與 API 服務。
未驗證CrispASR
本機 AI,命令列工具
C++ 二進位程式,透過統一的 CLI 在本機執行多語言 ASR 與 TTS 模型。
未驗證Textus
本機 AI,桌面應用程式
新一代 Markdown 編輯器,內建 AI 寫作助理。適用於 macOS、Windows 和 Linux,免費開源。
未驗證JANG
本機 AI,命令列工具
混合精度的量化格式與執行環境,可透過 MLX 在 Apple Silicon 上執行 LLM。
未驗證TensorSharp
本機 AI,命令列工具
本機 .NET 推論引擎,透過 CLI、瀏覽器對話與相容 API 執行 GGUF 模型。
未驗證免費slotstream
本機 AI,命令列工具
原生 Apple Silicon 引擎,從 SSD 串流 105 GB 的 mixture-of-experts 模型,以 CLI 與相容 API 離線執行。
未驗證llmman
本機 AI,命令列工具
透過單一 CLI 在任何本機或託管模型上執行任何 AI agent,模型以 OCI images 儲存。
已在 Linux 驗證Tau
本機 AI,命令列工具
Tau 是可適應的程式開發 harness,提供具備監控、工具與 subagent 的多供應商 AI agent。
已在 Linux 驗證MLX-Serve
本機 AI,桌面應用程式
適用於 Apple Silicon 的本機 LLM 與媒體伺服器,透過相容 OpenAI 的 API 離線執行聊天、coding agent、圖片、影片、音樂與語音模型。
未驗證免費Sentient OS
本機 AI,桌面應用程式
Mac 上的本機個人 AI,夜間學習脈絡並協助完成工作。
未驗證免費audio.cpp
本機 AI,命令列工具
用於執行語音、音樂與分析本機音訊模型的 C++ 框架。
未驗證Atomic Chat
本機 AI,桌面應用程式
在地 AI 應用與推論引擎,透過 OpenAI 相容本機伺服器離線私有執行 open-weight LLM。
未驗證LlamaStash
本機 AI,終端機應用程式
以終端機為原生的編排工具,在單一 proxy 後方執行本機 LLM 引擎與模型。
已在 Linux 驗證Nietzschian Debugger
本機 AI,命令列工具
以提問取代直接給答案的 CLI 除錯器,協助培養更強的除錯能力。
已在 Linux 驗證MindRoom
本機 AI,本機伺服器
自架的 Matrix 聊天 agent,支援任意模型,供個人與團隊使用。
未驗證PocketPaw
本機 AI,桌面應用程式
自託管個人 AI agent,於本機執行並提供桌面與網頁儀表板。
未驗證免費TurboLLM
本機 AI,命令列工具
以針對 GPU 自動調校的本機 LLM 引擎執行,提供網頁介面與相容 API。
已在 Linux 驗證免費ComfyUI
本機 AI,自架網頁應用
ComfyUI 是以節點圖為基礎的生成引擎,使用擴散模型產生圖片、影片、3D 與音訊。
已在 Linux 驗證Locals
本機 AI,命令列工具
Locals 是適用於 Apple 晶片 macOS 的本機推論伺服器,可執行 AI 模型以並行處理大量 agent 請求,並加速工具呼叫。
未驗證Twigpine/zero
本機 AI,命令列工具
終端機 AI coding agent,可檢查儲存庫、編輯檔案並執行指令,支援本機工作階段與自選模型。
未驗證Jan
本機 AI,桌面應用程式
在電腦上離線執行 LLM 的開源 ChatGPT 替代方案。
已在 macOS 和 Linux 驗證Llama
本機 AI,桌面應用程式
透過本機伺服器執行本機 LLM 的 macOS 選單列應用程式。
已在 macOS 驗證vMLX
本機 AI,本機伺服器
自架推論伺服器,在 Apple Silicon 上執行 LLM、VLM 與圖片生成。
未驗證Lucebox
本機 AI,本機伺服器
適用於異質硬體與消費級 GPU 的推測式 LLM 推論伺服器。
未驗證Tabby
本機 AI,本機伺服器
自行託管的 AI 程式碼助理,提供程式碼補全與聊天功能。
已在 Linux 驗證免費Hillock
本機 AI,命令列工具
本機神經符號記憶引擎,以 SQLite 圖譜搭配 HDC 與 Hebbian 關聯儲存事實。
未驗證linecast
本機 AI,命令列工具
使用免費公開資料提供天氣、潮汐、日月、地圖與天象館檢視的終端機套件。
已在 Linux 驗證whisper.cpp
本機 AI,命令列工具
OpenAI Whisper 的 C/C++ 移植版,用於離線語音轉文字推論。
已在 macOS 驗證MTPLX
本機 AI,命令列工具
在 Apple Silicon 上執行本機語言模型的工具,使用原生多 token 預測解碼。
未驗證Rapid-MLX
本機 AI,本機伺服器
為 coding agent 打造的 Apple Silicon 本機 LLM 推論伺服器,基於 MLX 建置,相容 OpenAI 與 Anthropic API。
未驗證免費Ollama
本機 AI,本機伺服器
Ollama 是可在本機或雲端執行開放式 LLM 的工具,提供 CLI 與 API 存取。
已在 Linux 驗證
沒有符合這個篩選條件的工具。
試著減少篩選條件,或描述你要做的事,讓 Fitz 幫你找。