標籤：llama.cpp

以下是帶有「llama.cpp」標籤的全部文章，共 6 篇。

48,555 星開源項目：LocalAI — 免 GPU 的本地 AI 引擎

2026-08-19 技術

LocalAI 是以 Go 撰寫、MIT 授權的開源 AI 引擎，可在 NVIDIA、AMD、Intel、Apple Silicon、Vulkan 及純 CPU 硬件上運行 LLM、視覺、語音、影像與視訊等任意模型，無需 GPU 即可本地部署，相容 OpenAI 等 API，GitHub 星標逾 4.8 萬。

17.9 萬星開源項目：Ollama — 一鍵本機運行開源大模型

2026-08-18 技術

Ollama 是 GitHub 星標逾 17.9 萬的開源本地大模型運行工具，以 Go 撰寫、MIT 授權，支援在 macOS、Windows、Linux 與 Docker 上以單一指令下載執行 Kimi、DeepSeek、Qwen 等開源模型，並提供 REST API 與多語言 SDK，是本地 AI 部署的主流方案。

17.8 萬星開源項目：Ollama — 本地大模型運行平台

2026-08-07 技術

Ollama 是 GitHub 星標逾 17.7 萬的開源大模型運行平台，以 Go 撰寫、MIT 授權，支援多平台一鍵安裝，整合 llama.cpp 推理後端，可在本地運行 DeepSeek、Qwen、Gemma 等開源模型，並提供 REST API 與 Python、JavaScript 官方函式庫。

12.3 萬星開源項目：llama.cpp — 純 C/C++ 本地 LLM 推理引擎

2026-08-06 技術

llama.cpp 是 GitHub 星標逾 12.3 萬的開源 LLM 推理引擎，純 C/C++ 撰寫，可在一般電腦與 Apple Silicon 上本地運行大語言模型，支援多級量化與 CUDA、Metal、Vulkan 後端，MIT 授權，最新版本 b10297 於 2026 年 8 月釋出。

17.8 萬星開源項目：Ollama — 讓開源大模型在本地一鍵運行的跨平台引擎

2026-08-04 技術

Ollama 是 GitHub 星標突破 17.8 萬的開源項目，以 Go 語言打造、基於 llama.cpp 推理後端的本地大模型運行引擎，支援 Kimi、DeepSeek、Qwen、Gemma 等主流開放模型，並提供 CLI、REST API 與官方 Docker 映像。本文分析其技術架構、生態定位與市場影響。