標籤：本地部署

Open WebUI 開源：自架 AI 平台的無聲崛起

2026-10-05 技術

Open WebUI 是 GitHub 上累積 153,956 顆星標的開源自架 AI 平台，以 Python 撰寫，支援 Ollama 與任何 OpenAI 相容 API，並可完全離線運行。本文整理其定位、開發背景、核心技術亮點、代理與擴充生態、專案數據與版本節奏、商業模式，以及 Docker 與 pip 的實際安裝步驟。

閱讀更多

VoiceStudio 開源：本地語音克隆取代 ElevenLabs

2026-10-02 技術

VoiceStudio 是一套以 AGPL-3.0 開源、預設在本機執行的語音工具，把語音克隆、聲音設計、影片配音、聽寫、轉錄與有聲書製作整合在同一個桌面應用，支援 646 種語言。本文整理其架構選擇、專案數據、與 ElevenLabs 等雲端服務的差異，以及實際安裝與代理程式整合方式。

閱讀更多

Voicebox 開源：5.5 萬星本地語音工作室

2026-09-22 技術

Voicebox 是開源的本地 AI 語音工作室，在 GitHub 累積 5.5 萬顆星標與 269 萬次下載。本文整理其 7 套 TTS 引擎、23 種語言、MCP 語音輸出與跨平台 GPU 支援，並分析它如何在單一應用內同時涵蓋語音合成與聽寫輸入。

閱讀更多

Jan 開源：44K 星 ChatGPT 離線替代方案

2026-09-10 技術

Jan 是擁有 44,385 星標的開源 ChatGPT 替代方案，主打 100% 離線運行大型語言模型，以 Tauri 與 llama.cpp 建構桌面應用，支援 HuggingFace 模型下載、OpenAI 相容 API 與 MCP 協定。本文解析其核心架構、離線運作原理與市場定位，並評估其適用場景。

閱讀更多

AnythingLLM 開源：65K 星一站式 AI 助理平台

2026-09-06 技術

AnythingLLM 是 Mintplex Labs 推出的開源一站式 AI 助理平台，GitHub 獲 65,619 星標，支援文件問答、AI Agent、多用戶管理與本地優先部署。本文分析其技術架構、模型支援、部署方式與生態發展，並評估其與同類工具相比的定位與適用場景。

閱讀更多

16萬星開源項目：Stable Diffusion WebUI 一鍵本地 AI 繪圖

2026-09-03 技術

Stable Diffusion WebUI 是 GitHub 累積 16.4 萬星的開源 AI 繪圖網頁介面，以 Gradio 建構，支援文字生圖、圖片生圖、局部重繪、Textual Inversion 與 LoRA 訓練，最低 4GB 顯示卡即可本機運行，提供一鍵安裝與超過百款社群擴充功能，是本地部署 AI 繪圖的標準工具。

閱讀更多

Ollama 開源 18 萬星：本地模型工具如何變成 AI Agent 中樞？

2026-09-03 技術

開源項目 Ollama 以超過 17.9 萬顆星標成為本地 AI 部署的事實標準，從一指令運行大型語言模型的執行工具，進化為可連接 Claude Code、Codex、Copilot 等編程 Agent 的中樞。本文深入分析其技術架構、Agent 中樞功能、模型生態與社群規模，並提供實際部署建議，協助讀者規劃本地 AI 方案。

閱讀更多

48,555 星開源項目：LocalAI — 免 GPU 的本地 AI 引擎

2026-08-19 技術

LocalAI 是以 Go 撰寫、MIT 授權的開源 AI 引擎，可在 NVIDIA、AMD、Intel、Apple Silicon、Vulkan 及純 CPU 硬件上運行 LLM、視覺、語音、影像與視訊等任意模型，無需 GPU 即可本地部署，相容 OpenAI 等 API，GitHub 星標逾 4.8 萬。

閱讀更多

5.7 萬星開源項目：PrivateGPT — 本地私有 AI 應用 API 層

2026-08-16 技術

PrivateGPT 是 GitHub 上星標超過 5.7 萬的開源項目，定位為本地私有 AI 應用 API 層，連接 Ollama、vLLM 等推理伺服器，提供 RAG、工具呼叫、MCP 與資料庫存取能力。本文分析其技術架構、Claude API 相容設計與 Zylon 商業模式。

閱讀更多

64,706 星開源項目：AnythingLLM — 本地優先的全能 AI 應用

2026-08-14 技術

AnythingLLM 是 GitHub 星標逾 6.4 萬的開源全能 AI 應用，支援文件問答、AI 代理、動態模型路由與多用戶協作，預設本地執行且無需複雜設定，採用 MIT 許可證。其 v1.16.0 版本於 2026 年 8 月 14 日發佈，新增圖像生成功能，是本地優先 AI 應用的代表性項目。

閱讀更多

Meta 開源 Muse Glimmer：30B 模型本地跑 AI Agent

2026-08-11 技術

Meta 於 2026 年 8 月 10 日開源 Muse Glimmer，一個 300 億參數開放權重模型，以 Apache 2.0 授權釋出，可在單張消費級 GPU 的 Mac 或 PC 上本地運行 AI Agent，量化後記憶體需求低於 20GB，相容 OpenClaw、Ollama、llama.cpp 等框架。

閱讀更多

6.9 萬星開源項目：Unsloth — 本地 AI 加速引擎

2026-08-10 技術

Unsloth 是 GitHub 逾 6.9 萬星標的開源本地 AI 加速平台，以自研 Triton 內核實現模型微調最高 2 倍加速與 70% 記憶體節省，MoE 架構達 12 倍加速；Studio 介面支援 500 多種模型的運行與訓練，並可連接 Claude Code 等 Agent 工具。

閱讀更多

17.8 萬星開源項目：Ollama — 本地大模型運行平台

2026-08-07 技術

Ollama 是 GitHub 星標逾 17.7 萬的開源大模型運行平台，以 Go 撰寫、MIT 授權，支援多平台一鍵安裝，整合 llama.cpp 推理後端，可在本地運行 DeepSeek、Qwen、Gemma 等開源模型，並提供 REST API 與 Python、JavaScript 官方函式庫。

閱讀更多

17.8 萬星開源項目：Ollama — 讓開源大模型在本地一鍵運行的跨平台引擎

2026-08-04 技術

Ollama 是 GitHub 星標突破 17.8 萬的開源項目，以 Go 語言打造、基於 llama.cpp 推理後端的本地大模型運行引擎，支援 Kimi、DeepSeek、Qwen、Gemma 等主流開放模型，並提供 CLI、REST API 與官方 Docker 映像。本文分析其技術架構、生態定位與市場影響。

閱讀更多