Unsloth 桌面版發布:7.7 萬星本地訓練工具
2026-10-09 技術
Unsloth 是專注大型語言模型微調的開源專案,在 GitHub 累積 77,513 顆星,宣稱訓練速度提升 2 倍、記憶體需求降低 70%。該專案於 2026 年推出原生桌面應用,支援 Windows、macOS 與 Linux,並可訓練語言、視覺與語音模型。本文整理其技術架構、桌面版進展、生態定位與授權條件。
閱讀更多以下是帶有「LLM」標籤的全部文章,共 99 篇。
2026-10-09 技術
Unsloth 是專注大型語言模型微調的開源專案,在 GitHub 累積 77,513 顆星,宣稱訓練速度提升 2 倍、記憶體需求降低 70%。該專案於 2026 年推出原生桌面應用,支援 Windows、macOS 與 Linux,並可訓練語言、視覺與語音模型。本文整理其技術架構、桌面版進展、生態定位與授權條件。
閱讀更多
2026-10-09 技術
TextGen 是專為本地大型語言模型設計的開源桌面應用,在 GitHub 累積 47,727 顆星。它支援文字、視覺、工具呼叫與網頁搜尋,並提供 OpenAI 與 Anthropic 相容 API,全程離線、零遙測。本文整理其功能、架構、安裝方式、生態定位與授權條件。
閱讀更多
2026-10-06 技術
Strata 是 GitHub 上累積 12,526 顆星標的開源推論引擎,能以一般家用電腦運行 1250 億參數的 Qwen3.8-Flash-Next 模型,硬體門檻為 12GB 顯示記憶體與 32GB 系統記憶體。本文整理其專案背景、混合專家架構、實測推論速度、模型選擇、安裝步驟、API 整合能力與授權條款。
閱讀更多
2026-10-05 技術
Open WebUI 是 GitHub 上累積 153,956 顆星標的開源自架 AI 平台,以 Python 撰寫,支援 Ollama 與任何 OpenAI 相容 API,並可完全離線運行。本文整理其定位、開發背景、核心技術亮點、代理與擴充生態、專案數據與版本節奏、商業模式,以及 Docker 與 pip 的實際安裝步驟。
閱讀更多
2026-10-05 技術
System Prompts Leaks 在 GitHub 累積 68,864 顆星標,收錄 ChatGPT、Claude、Gemini、Grok、Copilot 等主流 AI 產品的系統提示詞原文。本文整理其涵蓋廠商、檔案結構、媒體引用情況、專案數據,以及系統提示詞外洩對 AI 產業的意義。
閱讀更多
2026-09-28 技術
Hugging Face 開源的 smolagents 在 GitHub 累積 29,522 顆星標,核心邏輯僅約一千行程式碼。它主打以 Python 程式碼片段取代 JSON 行動輸出的 CodeAgent,並支援 E2B、Modal、Docker 等沙箱執行環境,採 Apache-2.0 授權。
閱讀更多
2026-09-28 技術
微軟開源的 Generative AI for Beginners 是一套 21 節課的生成式 AI 入門課程,在 GitHub 累積 120,644 顆星標與 63,458 次複製,涵蓋提示工程、RAG、AI 代理與模型微調,並支援 Azure OpenAI 與 Foundry Local。
閱讀更多
2026-09-27 技術
開源專案 LibreChat 以超過 4.4 萬顆星標,成為自架 AI 對話平台的代表作。它把 OpenAI、Anthropic、Google 與本機模型整合在單一介面,並內建 AI Agent、MCP、技能系統與程式碼解譯器。本文分析其架構設計、企業部署優勢、社群數據與實際部署流程,協助讀者評估是否適合自建 AI 中樞。
閱讀更多
2026-09-26 技術
Aider 是 Aider-AI 開源的終端機 AI 編程助手,讓使用者在命令列與大型語言模型配對寫程式。它會為整個程式碼庫建立結構地圖,自動以合理的提交訊息完成 Git 提交,並支援 Claude、DeepSeek、OpenAI 雲端模型與本機模型,GitHub 星標已達 49,186 顆。
閱讀更多
2026-09-26 技術
Google 開源的 LangExtract 以 Python 撰寫,讓語言模型把非結構化文字抽成結構化資料,並要求每筆結果對應原文精確字元區間。專案在 GitHub 累積 38,860 顆星標與 2,718 次複製,支援 Gemini、OpenAI 與本機 Ollama 模型。
閱讀更多
2026-09-25 技術
bojieli/ai-agent-book 是李博杰開源的 AI Agent 教科書,在 GitHub 累積 50,755 顆星標。全書 10 章圍繞「Agent = LLM + 上下文 + 工具」展開,配 109 個可執行實驗與 15 種語言譯本,採 Apache-2.0 授權免費公開。
閱讀更多
2026-09-23 技術
開發者 virattt 的開源專案 AI Hedge Fund 在 GitHub 累積 63,669 顆星標,以語言模型代理模擬投資團隊的研究、組合與風控角色,可對策略做歷史回測,並於 2026 年 9 月 22 日發布 v2.3.1 版本。
閱讀更多
2026-09-22 技術
ZhuLinsen 開發的開源股票智能分析系統在 GitHub 累積逾 65,000 星,以大型語言模型每日分析 A 股、港股、美股等多市場自選股,自動推送含評分、買賣點位與風險警報的決策儀表盤。本文深入解析其系統架構、資料來源、多市場支援與本地部署方式,並說明使用上的風險與限制。
閱讀更多
2026-09-10 技術
OmniRoute 是 MIT 授權的開源 AI 閘道,於 GitHub 累積 63,740 星標,以單一端點整合 352 家供應商與逾 150 個免費額度,支援四層自動容錯、19 種路由策略與 12 引擎 Token 壓縮,並可自架於 Docker、桌面或 Android 裝置。本文解析其架構、免費額度計算方式與市場定位。
閱讀更多
2026-09-10 技術
LangGraph 是 LangChain 官方推出的底層編排框架,目前於 GitHub 累積 41,327 星標,專為建立可長期運行、具狀態的 AI Agent 而設計,獲 Klarna、Replit、Elastic 等企業採用。本文解析其耐久執行、人機協作與記憶機制等核心設計,並評估其在 Agent 開發生態中的定位。
閱讀更多
2026-09-10 技術
Jan 是擁有 44,385 星標的開源 ChatGPT 替代方案,主打 100% 離線運行大型語言模型,以 Tauri 與 llama.cpp 建構桌面應用,支援 HuggingFace 模型下載、OpenAI 相容 API 與 MCP 協定。本文解析其核心架構、離線運作原理與市場定位,並評估其適用場景。
閱讀更多
2026-09-09 技術
llama.cpp 是 GitHub 上 127K 星的 C/C++ 本地 LLM 推理框架,以極低依賴與跨硬件支援著稱,支援 1.5-bit 至 8-bit 量化、CUDA、Metal、Vulkan 等後端,已成為本地 AI 部署的事實標準之一。本文解析其架構亮點、生態定位與入門方式。
閱讀更多
2026-09-06 技術
Microsoft 開源的生成式 AI 完整課程,21 堂由淺入深涵蓋 LLM 基礎、提示工程、對話應用、RAG、AI Agent 與微調,每堂附影片、文字講解與 Python/TypeScript 實作範例,星標超過 11.9 萬,是免費自學生成式 AI 的首選資源。
閱讀更多
2026-09-06 技術
Meta 已正式將原始 Llama 儲存庫標記為退役,結束其作為開源大模型核心入口的地位。該儲存庫累積逾 5.9 萬星標,功能已整合至 Llama Stack 生態,包括 llama-models、llama-toolchain 與 llama-agentic-system。本文回顧其歷史貢獻並分析生態新方向。
閱讀更多
2026-09-06 技術
MarkItDown 是微軟 AutoGen 團隊開源的 Python 文件轉換工具,以逾 17.8 萬星標成為 AI 資料管線的文件預處理利器。它支援 PDF、Office、影像、音訊與網址等格式轉換為 Markdown,並可整合 Azure 文件 AI 與 LLM 影像描述。本文分析其核心架構與應用場景。
閱讀更多
2026-09-06 技術
Hello-Agents 是 Datawhale 社區推出的開源智能體學習教程,GitHub 獲 76,992 星標。本文分析其十六章節架構、AI Native Agent 技術路線、Agentic-RL 與 MCP 協議等亮點,並評估其與同類教程的差異及適合讀者群。
閱讀更多
2026-09-06 技術
AnythingLLM 是 Mintplex Labs 推出的開源一站式 AI 助理平台,GitHub 獲 65,619 星標,支援文件問答、AI Agent、多用戶管理與本地優先部署。本文分析其技術架構、模型支援、部署方式與生態發展,並評估其與同類工具相比的定位與適用場景。
閱讀更多
2026-09-04 技術
美國政府在《紐約時報》控告 OpenAI 的訴訟中提交 20 頁意見書,支持 OpenAI 使用受版權保護的材料訓練語言模型,主張限制合理使用將阻礙美國 AI 產業發展。本文梳理意見書論點、合理使用爭議焦點、過往判例走向,以及此事對全球 AI 訓練監管環境的潛在影響。
閱讀更多
2026-09-03 技術
開源項目 Ollama 以超過 17.9 萬顆星標成為本地 AI 部署的事實標準,從一指令運行大型語言模型的執行工具,進化為可連接 Claude Code、Codex、Copilot 等編程 Agent 的中樞。本文深入分析其技術架構、Agent 中樞功能、模型生態與社群規模,並提供實際部署建議,協助讀者規劃本地 AI 方案。
閱讀更多
2026-09-03 技術
RTK(Rust Token Killer)是 GitHub 上 7.8 萬星的開源 CLI 代理工具,以單一 Rust 二進位檔壓縮 shell 指令輸出,在進入 LLM 上下文前減少最多 90% 的 bash 輸出量。支援超過 100 種指令與 16 款 AI 編碼工具。本文整理其運作原理與 token 節省機制。
閱讀更多
2026-09-03 技術
Cherry Studio 是擁有 51,363 星標的開源 AI 桌面客戶端,支援 OpenAI、Gemini、Anthropic 等多間大型語言模型供應商,內建 300 多款預設 AI 助手、文件處理與 MCP 伺服器整合,提供 Windows、Mac 與 Linux 三平台一站式 AI 生產力方案。
閱讀更多
2026-09-02 技術
阿里巴巴 Qwen 團隊開源 Qwen3 系列大語言模型,涵蓋 0.6B 至 235B-A22B 多種規模,支援思考與非思考模式切換、256K 長上下文擴展至 100 萬 tokens,並以 Apache 2.0 授權釋出。本文分析其架構創新、生態支援與部署路徑,值得開發者留意。
閱讀更多
2026-09-02 技術
OpenAI 宣布其新一代模型 Astra 成為旗下首個網絡安全能力達到 Critical 門檻的模型,在 Preparedness Framework 下被認定能自主發掘未知漏洞並開發攻擊鏈。公司在評估中發現 Astra 能建立完整的瀏覽器逃逸鏈與本機權限提升鏈,同時在防禦性安全措施上亦領先前代模型。
閱讀更多
2026-09-02 技術
Meta 推出首個即時音訊感知模型 Muse Voice Transcribe,提供多語言串流語音轉錄、20 位以上說話者辨識與自動斷句,以每千分鐘 3 美元開放予開發者使用。模型以超過 70 種語言訓練,已內建於 Meta AI for Mac 與 Muse Code,Mac 用戶按住 Fn 鍵即可在任意應用程式聽寫。
閱讀更多
2026-09-02 技術
Google DeepMind 推出 Agentic Video 影片理解功能,讓 Gemini 3.7 Flash 等模型以更少 token 分析長影片,支援次秒級時刻檢索、異常偵測與動作計數,開發者可透過 Gemini API 設定 processing 參數啟用,費用沿用標準 token 定價。
閱讀更多
2026-09-02 技術
Anthropic 於 2026 年 9 月推出 Claude Fable 5.1,這是 Mythos 級別的最新旗艦模型,重點在於大幅降低代理式任務的運行成本。官方表示典型工作量下成本較 Fable 5 減少約 25%,高度代理化工作最多可節省約 45%,同時在編碼、知識工作與長期問題解決任務上表現更佳。
閱讀更多
2026-08-31 技術
SGLang 是 LMSYS 旗下高效能大語言模型推理框架,全球超過 40 萬顆 GPU 部署,每日生產萬億級 Token,獲 xAI、NVIDIA、Cursor 等企業採用。本文解析 RadixAttention、推斷解耦、推測解碼等核心技術與市場影響力,是了解開源 AI 推理基礎設施現況的完整指南。
閱讀更多
2026-08-31 技術
OpenAI 前研究科學家 Andrej Karpathy 開發的 nanoGPT 在 GitHub 累積 6.2 萬星標,以約 300 行 train.py 與 model.py 重現 GPT-2 訓練,8 張 A100 四天完成 1.24 億參數模型。本文分析其核心設計、與 nanochat 的關係及適合的團隊。
閱讀更多
2026-08-31 技術
開源 LLM 應用開發平台 Dify 在 GitHub 已獲得 15.4 萬星標與 2.4 萬次 fork,透過視覺化 AI 工作流、完整 RAG 管線、Agent 能力與多模型整合,讓團隊從原型到生產部署無須重構技術棧。本文分析其核心架構、與同類平台的差異、生態影響,以及最適合採用 Dify 的團隊類型。
閱讀更多
2026-08-31 技術
騰訊正式發布並開源新一代大型語言模型 Hy4 預覽版,採用 770B 總參數、49B 活躍參數的架構,上下文窗口超過 100 萬 tokens,並以每百萬輸入 tokens 0.834 美元的價格開放 API。本文分析其技術規格、應用場景、定價策略與開源意義,幫助開發者判斷是否值得採用。
閱讀更多
2026-08-29 技術
llama.cpp 是 GitHub 上 126,107 顆星的開源專案,以純 C/C++ 實作本地 LLM 推理,支援從 1.5-bit 到 8-bit 的整數量化與 CPU、GPU、NPU 等多元硬件後端。本文深入分析其核心架構、硬件支援版圖、量化技術原理與生態影響力。
閱讀更多
2026-08-28 技術
LlamaIndex 是 GitHub 上擁有 5.19 萬星標的開源資料框架,專為大型語言模型應用設計,提供資料連接器、索引結構與檢索查詢介面,可串接 OpenAI、Ollama 等模型及超過 300 個整合套件,被視為 RAG 應用的標準起點。本文分析其核心架構、與 LangChain 的差異及商業化路徑。
閱讀更多
2026-08-28 技術
Open WebUI 是 GitHub 上 15 萬星標的自託管 AI 介面平台,支援 Ollama 與所有 OpenAI 相容 API,提供本地 RAG、插件系統、多模型對話與企業級權限管理,被視為本地 AI 部署最受歡迎的入口工具。本文分析其核心架構、生態系統與實際部署方式。
閱讀更多
2026-08-28 技術
One API 是 36,590 星的開源 LLM API 管理系統,以統一 OpenAI 格式訪問 OpenAI、Claude、Gemini、DeepSeek 等主流大模型,支援負載均衡、令牌管理與多機部署,是開發者管理多模型 API 的實用工具。
閱讀更多
2026-08-26 技術
智譜 AI 今日突襲發佈 GLM-5.3-Flash:GLM-5 系列首個原生多模態模型,320B 總參數、僅 18B 活躍參數,效能超越 GLM-5.2 之餘價格只需十分之一,編程與 Agent 能力逼近 Claude Opus 4.8。本文拆解其混合注意力架構、30T 多模態預訓練、開源授權與本地部署方案。
閱讀更多
2026-08-25 技術
Claude Cookbooks 是 Anthropic 官方維護的開源開發範例集,GitHub 星標超過 5.2 萬。本文分析其分類結構、工具使用、檢索增強生成、多模態與成本優化等核心內容,並從星標、fork、更新頻率等數據探討這套官方資源在 Claude 生態系統中的定位與開發者價值。
閱讀更多
2026-08-25 技術
MemPalace 是本地優先的開源 AI 記憶系統,GitHub 獲 58,549 顆星標,逐字儲存與語意檢索,零 API 即在 LongMemEval 取得 96.6% R@5 準確率。系統以 wings、rooms、drawers 三層組織記憶,提供 44 個 MCP 工具整合 Claude Code,MIT 授權。
閱讀更多
2026-08-22 技術
nanobot 是香港大學數據科學研究所維護的開源個人 AI Agent 框架,GitHub 星標超過 4.7 萬,以 Python 打造超輕量核心,整合 WebUI、長期記憶、MCP 工具、多 Agent 協作與聊天應用。本文分析其技術架構、核心亮點、生態定位與適用情境。
閱讀更多
2026-08-22 技術
Headroom 是 GitHub 星標超過 6.7 萬的開源上下文壓縮層,在資料進入 LLM 之前先行壓縮,宣稱可節省 60% 至 95% 的 JSON Token。本文分析其技術架構、壓縮管線、基準測試數據、Agent 相容性與商業模式。
閱讀更多
2026-08-21 技術
LangChain 是全球最受歡迎的 AI 代理與 LLM 應用開發框架,GitHub 星標超過 14.4 萬。本文深入分析其核心架構、生態系統與市場定位,拆解 Agent 工作流、工具整合與記憶機制,解析這個 AI 代理工程平台為何成為開發者建構智慧應用的首選。
閱讀更多
2026-08-21 技術
AutoResearch 是 AI 領域代表人物 Andrej Karpathy 推出的開源實驗框架,GitHub 星標突破 9.4 萬。它讓 AI 代理在夜間自主修改程式碼、反覆訓練模型並評估結果,以固定五分鐘訓練預算與 val_bpb 指標自動化單 GPU 上的語言模型研究流程,開啟 AI 自主研究的新實驗範式。
閱讀更多
2026-08-19 技術
LocalAI 是以 Go 撰寫、MIT 授權的開源 AI 引擎,可在 NVIDIA、AMD、Intel、Apple Silicon、Vulkan 及純 CPU 硬件上運行 LLM、視覺、語音、影像與視訊等任意模型,無需 GPU 即可本地部署,相容 OpenAI 等 API,GitHub 星標逾 4.8 萬。
閱讀更多
2026-08-19 技術
autoresearch 是 Karpathy 於 2026 年 3 月發布的開源實驗項目,讓 AI Agent 在單張 GPU 上以固定 5 分鐘時間預算反覆修改訓練程式碼、自主迭代模型,GitHub 星標逾 9.4 萬,採 MIT 授權、以 Python 撰寫,為自主 AI 研究展示了具體可行的實驗範本。
閱讀更多
2026-08-19 技術
System Prompts Leaks 以逾 6.3 萬星標成為 AI 圈最受矚目的開源項目,逐字收錄 ChatGPT、Claude、Gemini、Grok 等各大聊天機器人的系統提示詞。本文分析其核心價值、收錄範圍、對 AI 透明度的意義及使用方法。
閱讀更多
2026-08-18 技術
LiteLLM 是 GitHub 星標超過 5.6 萬的開源 AI 閘道,提供 Python SDK 與可自架的 Proxy Server,以統一 OpenAI 格式呼叫 100 多個 LLM 供應商,內建成本追蹤、防護機制、負載平衡與管理儀表板,實測 1k RPS 下 P95 延遲僅 8 毫秒。
閱讀更多
2026-08-18 技術
Ollama 是 GitHub 星標逾 17.9 萬的開源本地大模型運行工具,以 Go 撰寫、MIT 授權,支援在 macOS、Windows、Linux 與 Docker 上以單一指令下載執行 Kimi、DeepSeek、Qwen 等開源模型,並提供 REST API 與多語言 SDK,是本地 AI 部署的主流方案。
閱讀更多
2026-08-17 技術
DeepSeek Harness 是 DeepSeek AI 於 2026 年 8 月 13 日開源的 Agent 開發框架,GitHub 星標三日內突破 12.8 萬,以「一切皆插件」架構令模型適配、工具註冊與 Agent 迴圈全部可以獨立替換。本文分析其核心架構、與其他框架的差異及適用場景。
閱讀更多
2026-08-16 技術
GPT4Free 是 GitHub 星標逾 6.6 萬的開源多模型聚合項目,以單一介面整合多個 AI 提供者,支援 OpenAI 相容 API、本地 GUI、Docker 部署與 MCP 伺服器,涵蓋文字對話、圖片與媒體生成,GPL-3.0 授權,2026 年 8 月仍持續活躍更新。
閱讀更多
2026-08-15 技術
LlamaFactory 是 GitHub 星標逾 7.4 萬的開源大模型微調框架,以單一介面支援 100 多款語言與多模態模型的預訓練、監督微調與偏好對齊,提供零代碼 CLI 與 LLaMA-Board 網頁介面,整合 LoRA、QLoRA 與 vLLM 等加速方案,採用 Apache-2.0 授權。
閱讀更多
2026-08-15 技術
MinerU 是 GitHub 星標逾 7.7 萬的開源高精度文檔解析引擎,由 OpenDataLab 開發,可將 PDF、DOCX、PPTX、XLSX 與圖片轉化為 LLM 可直接讀取的 Markdown 與 JSON,支援 109 種語言 OCR,最新 3.4 版本將 OCR 準確度提升約 11%。
閱讀更多
2026-08-14 技術
字節跳動開源項目 DeerFlow 2.0 突破 8 萬星標,曾登上 GitHub Trending 第一名。本文深入分析其從深度研究框架轉型為超級代理執行環境的技術架構,包括技能模組、子代理、沙盒執行與長期記憶等核心功能,並提供快速部署步驟與生態影響評估。
閱讀更多
2026-08-14 技術
AnythingLLM 是 GitHub 星標逾 6.4 萬的開源全能 AI 應用,支援文件問答、AI 代理、動態模型路由與多用戶協作,預設本地執行且無需複雜設定,採用 MIT 許可證。其 v1.16.0 版本於 2026 年 8 月 14 日發佈,新增圖像生成功能,是本地優先 AI 應用的代表性項目。
閱讀更多
2026-08-13 技術
OpenCV 是 GitHub 上突破 9 萬星標的開源電腦視覺庫,2026 年 6 月發布的 5.0 版本被視為二十年來最大規模革新。本文分析其全新 DNN 引擎、ONNX 算子覆蓋率由 22% 提升至 80% 以上、原生 LLM/VLM 推論能力、多架構硬體加速與三維視覺模組重構,探討其對電腦視覺生態的影響。
閱讀更多
2026-08-13 技術
Pi 是 GitHub 上突破 8.8 萬星標的開源 AI 智能體工具鏈,由 LibGDX 之父 Mario Zechner 主導開發。本文分析其統一多供應商 LLM 接口、模組化套件架構與供應鏈加固策略,探討其一年內爆紅的原因,以及在 AI 編程代理市場中的定位與前景。
閱讀更多
2026-08-12 技術
OpenAI Codex CLI 是 GitHub 星標逾 10.5 萬的開源終端機 AI 編程代理,以 Rust 開發,支援 ChatGPT 帳號登入、本地沙箱執行與 Skills 技能擴充,可整合主流 IDE,採用 Apache 2.0 許可證,是 2026 年 AI 程式開發領域最具代表性的開源項目之一。
閱讀更多
2026-08-12 技術
MarkItDown 是微軟推出的開源文件轉換工具,將 PDF、Word、PowerPoint、Excel、圖片與音訊轉為結構化 Markdown,供大型語言模型使用。項目獲逾 17.3 萬星標,採用 MIT 許可證,支援 CLI、Python API 與 Azure 整合,是 AI 文件處理的標準基礎設施。
閱讀更多
2026-08-12 技術
Mojo 程式語言於 2026 年 8 月正式達到 1.0 里程碑,為開發者提供穩定、生產就緒的語言基礎。自 2023 年首次發布以來,Mojo 已成長為通用型語言,標準函式庫開源後吸引近 200 位貢獻者提交逾 1,100 個 Pull Request,1.x 時期將以加法式演進為主。
閱讀更多
2026-08-12 技術
Caveman 是 GitHub 星標逾 9.7 萬的開源 AI 代理 Token 壓縮技能,實測可將 Claude Code 等 30 多個 AI 代理的回覆壓縮約 65%,Caveman 2 更透過本地 Proxy 將輸入 Token 減少 33.2%,採用 MIT 與 BSL-1.1 雙重授權。
閱讀更多
2026-08-12 技術
andrej-karpathy-skills 是 GitHub 星標逾 20.1 萬的開源項目,源自 Andrej Karpathy 對 LLM 編程陷阱的觀察,以單一 CLAUDE.md 濃縮四大編程原則,支援 Plugin 與 Cursor 規則安裝,採 MIT 許可,為 2026 年最受歡迎的 AI 編程規範。
閱讀更多
2026-08-12 技術
Strix 是 GitHub 星標逾 5.1 萬的開源 AI 滲透測試工具,由自主 AI 代理執行偵察、漏洞利用與真實概念驗證,提供多代理協作、CI/CD 整合、自動修復與合規報告等功能,支援 OpenAI、Anthropic 等主流模型,採用 Apache 2.0 許可證,為 2026 年最受關注的 AI 資安工具。
閱讀更多
2026-08-12 技術
llm-course 是 GitHub 星標逾 8.1 萬的開源 LLM 課程,由 Maxime Labonne 創建,以三階段路線圖涵蓋預訓練、微調、對齊與 RAG,提供逾 60 份可執行的 Colab Notebook,採用 Apache-2.0 許可證,是 2026 年全球最受歡迎的 LLM 自學教材之一。
閱讀更多
2026-08-11 技術
claude-mem 是 GitHub 星標逾 9 萬的開源 AI 代理記憶系統,Apache-2.0 授權,透過生命週期鉤子自動擷取代理工作紀錄、以 AI 壓縮並注入未來工作階段,支援 Claude Code、OpenClaw、Codex 等多種代理,是 2026 年 AI 代理記憶領域的矚目項目。
閱讀更多
2026-08-11 技術
Context7 是 GitHub 星標逾 6 萬的開源平台,由 Upstash 團隊以 TypeScript 開發、MIT 授權,透過 MCP 與 CLI 將最新版程式庫文件注入 AI 編程助手,解決 LLM 捏造 API 的問題,是 2026 年 AI 編程基礎設施的矚目項目。
閱讀更多
2026-08-11 技術
Crawl4AI 是 GitHub 星標逾 7.7 萬的開源 LLM 友善網頁爬蟲,可將網頁轉換為乾淨、結構化的 Markdown,供 RAG、AI 代理與資料管線直接使用;支援 LLM 驅動結構化抽取、瀏覽器整合與 Docker 部署,以 Apache 2.0 授權發布,是 2026 年最受矚目的開源爬蟲工具之一。
閱讀更多
2026-08-10 技術
prompts.chat 是 GitHub 逾 16.7 萬星標的全球最大開源 AI 提示詞庫,前身 Awesome ChatGPT Prompts,收錄逾 3,500 個社群提示詞,獲 Forbes 與哈佛大學引用;提供網頁瀏覽、CSV 匯出、自我托管、互動教學書與 MCP 伺服器等完整生態。
閱讀更多
2026-08-10 技術
Unsloth 是 GitHub 逾 6.9 萬星標的開源本地 AI 加速平台,以自研 Triton 內核實現模型微調最高 2 倍加速與 70% 記憶體節省,MoE 架構達 12 倍加速;Studio 介面支援 500 多種模型的運行與訓練,並可連接 Claude Code 等 Agent 工具。
閱讀更多
2026-08-10 技術
OpenCode 是 GitHub 獲逾 19.5 萬星標的開源 AI 編碼代理,由 Anomaly 團隊以 TypeScript 開發,採用 MIT 授權,內建 build 與 plan 雙代理架構,支援逾 20 種模型供應商,可於終端機執行開發任務、分析程式碼庫並處理 Git 流程,亦提供跨平台桌面應用。
閱讀更多
2026-08-09 技術
Graphify 是 GitHub 逾 10.4 萬星標的開源項目,以 tree-sitter AST 將程式碼庫、文檔與 PDF 轉化為可查詢的知識圖譜,供 20 多款 AI 助手使用;解析完全在本地完成、無需 LLM 與向量資料庫,每條關聯皆標註來源,30 秒即可安裝,並獲 Y Combinator 支持。
閱讀更多
2026-08-09 技術
RAGFlow 是 GitHub 逾 8.7 萬星標的開源檢索增強生成(RAG)引擎,由 infiniflow 團隊開發,以深度文檔理解與 Agent 能力建構 LLM 的高保真上下文層,支援多種文件格式、可追溯引用與低幻覺輸出,並獲 GitHub Octoverse 2025 年度頂尖開源項目肯定。
閱讀更多
2026-08-09 技術
TradingAgents 是 GitHub 逾 9.6 萬星標的開源金融交易框架,由 TauricResearch 推出,以 LangGraph 部署分析師、多空研究員與風險管理團隊等多個 LLM 智能體,模擬真實交易公司分工,支援美股、港股、加密貨幣等市場,並獲 arXiv 論文背書。
閱讀更多
2026-08-09 技術
Awesome LLM Apps 是 GitHub 逾 13.1 萬星標的開源項目,收錄 100 多個經端到端測試的 AI Agent 與 RAG 應用模板,採用 Apache-2.0 許可證,支援 Claude、Gemini、GPT、DeepSeek 等模型,每週新增模板,可免費複製部署與商用。
閱讀更多
2026-08-08 技術
GPT4All 是 Nomic AI 推出的開源本地 LLM 運行平台,GitHub 星標達 77,409 顆,可在日常桌面與筆電上離線運行大型語言模型,無需 API 呼叫或 GPU。項目支援 DeepSeek R1 蒸餾模型、GGUF 格式與 Vulkan 加速,提供 LocalDocs 私密問答。
閱讀更多
2026-08-08 技術
PaddleOCR 是百度開源領先 OCR 與文檔解析引擎,GitHub 星標逾 87,000 顆,可將 PDF 與圖片轉換為 LLM 可讀的 Markdown 與 JSON 結構化數據,支援 100 種以上語言。PP-OCRv6 以單一模型覆蓋 50 種語言,PaddleOCR-VL-1.6 達 96.3% 準確率。
閱讀更多
2026-08-08 技術
Hermes Agent 是 Nous Research 開發的自我進化型 AI 代理,GitHub 星標超過 227,000 顆,內建學習迴圈可從經驗自動建立技能並在使用中持續改進;支援 Telegram、Discord 等多平台訊息閘道與七種終端後端,相容任何大型語言模型,採用 MIT 許可證完全開源。
閱讀更多
2026-08-08 技術
Generative AI for Beginners 是 Microsoft 生成式 AI 入門課程,GitHub 星標逾 116,000 顆,以 21 堂課涵蓋 LLM 原理、提示工程、RAG、AI Agent 與微調,每課附影片與雙語言範例,支援 50 多種語言翻譯,MIT 許可證,零基礎可免費自學。
閱讀更多
2026-08-08 技術
Prompt Engineering Guide 是 DAIR.AI 推出的開源提示工程學習資源,GitHub 星標逾 77,000 顆,收錄論文、指南、課程與 Notebook,涵蓋提示工程、RAG 與 AI Agent,支援 13 種語言,服務逾 300 萬學習者,是掌握大語言模型應用的權威參考。
閱讀更多
2026-08-08 技術
LLMs-from-scratch 是擁有超過 10 萬顆星標的開源教學項目,由 Sebastian Raschka 撰寫,以 PyTorch 從零實作 GPT 架構大語言模型,涵蓋預訓練、指令微調與 LoRA 等完整流程,並配合同名書籍與 17 小時影片課程,是深度學習教育領域最具影響力的實作指南。
閱讀更多
2026-08-07 技術
Ollama 是 GitHub 星標逾 17.7 萬的開源大模型運行平台,以 Go 撰寫、MIT 授權,支援多平台一鍵安裝,整合 llama.cpp 推理後端,可在本地運行 DeepSeek、Qwen、Gemma 等開源模型,並提供 REST API 與 Python、JavaScript 官方函式庫。
閱讀更多
2026-08-07 技術
MetaGPT 是 GitHub 星標逾 6.97 萬的開源多智能體框架,以「軟件公司即多智能體系統」為核心理念,將產品經理、架構師、項目經理與工程師等角色賦予不同的大語言模型,輸入一行需求即可自動產出用戶故事、需求文件與程式碼,採用 MIT 授權,其論文獲 ICLR 2025 口頭報告資格。
閱讀更多
2026-08-06 技術
llama.cpp 是 GitHub 星標逾 12.3 萬的開源 LLM 推理引擎,純 C/C++ 撰寫,可在一般電腦與 Apple Silicon 上本地運行大語言模型,支援多級量化與 CUDA、Metal、Vulkan 後端,MIT 授權,最新版本 b10297 於 2026 年 8 月釋出。
閱讀更多
2026-08-06 技術
Transformers 是 GitHub 星標逾 16.3 萬的開源機器學習框架,由 Hugging Face 開發,以統一 API 支援文字、視覺、音訊與多模態模型訓練及推論,採用 Apache-2.0 授權,累積逾 3.4 萬次 fork 與近 4,000 名貢獻者,是現代 AI 生態核心基礎設施。
閱讀更多
2026-08-06 技術
vLLM 是 GitHub 星標逾 8.8 萬的開源 LLM 推理與服務引擎,源自柏克萊 Sky Computing Lab,以 PagedAttention 技術實現高吞吐、低成本部署,支援逾 200 種模型架構,採用 Apache 2.0 授權,累積逾 3,000 名貢獻者,是企業 AI 推理基礎設施核心開源項目。
閱讀更多
2026-08-06 技術
LangChain 是 GitHub 星標逾 14.4 萬的開源 AI 開發框架,以標準化介面包裝模型、嵌入、向量資料庫與工具,讓開發者快速建構 AI 智能體與 LLM 應用,採用 MIT 授權,累積 29 億次下載量與逾 28 萬個依賴專案,生態涵蓋 LangGraph、LangSmith 等產品。
閱讀更多
2026-08-06 技術
Open WebUI 是 GitHub 星標逾 14.8 萬的開源自托管 AI 平台,以 Python 撰寫,支援 Ollama 與 OpenAI 相容 API,內建 RAG 推理引擎,可完全離線運行,提供多模型並行對話、語音視訊通話與企業級權限管理,是部署私有 AI 助理的主流選擇。
閱讀更多
2026-08-06 技術
Firecrawl 是 GitHub 星標逾 16.2 萬的開放原始碼網頁資料 API,將網頁轉為 LLM 可直接使用的 Markdown 與結構化 JSON,覆蓋 96% 網頁,P95 延遲僅 3.4 秒,提供 Agent、Crawl 等自動化端點,採 AGPL-3.0 授權。
閱讀更多
2026-08-06 技術
AutoGPT 是 GitHub 星標逾 18.5 萬的開源 AI Agent 平台,由 2023 年自主智能體先驅演化為結合 AutoPilot、Agents、Marketplace 與 Build 的完整平台,支援 45 個以上外部服務與數百個 AI 模型,2026 年 8 月推出 v0.7.0 測試版。
閱讀更多
2026-08-05 技術
Pi 是由 libGDX 作者 Mario Zechner 打造的開源 AI 代理工具包,GitHub 星標達 8.4 萬,以統一大模型 API、代理運行時與編碼代理 CLI 構成極簡可擴充的終端開發工具,支援數十家模型供應商與訂閱服務,一年內成為增長最快的編碼代理項目之一。
閱讀更多
2026-08-05 技術
dify 是開源的 LLM 應用開發平台,GitHub 星標達 15.1 萬,以視覺化工作流畫布整合 AI 工作流、RAG 管線、Agent 能力與模型管理,支援數百種模型供應商與 50 多個內建工具,可部署於雲端或自托管,讓團隊從原型快速過渡至生產環境。
閱讀更多
2026-08-04 技術
Ollama 是 GitHub 星標突破 17.8 萬的開源項目,以 Go 語言打造、基於 llama.cpp 推理後端的本地大模型運行引擎,支援 Kimi、DeepSeek、Qwen、Gemma 等主流開放模型,並提供 CLI、REST API 與官方 Docker 映像。本文分析其技術架構、生態定位與市場影響。
閱讀更多
2026-08-04 技術
2026 年本地 AI 模型部署已從極客玩具演變為主流生產力工具。本文從硬件配置基準、工具生態比較、模型選擇策略到性能優化與實際應用場景,提供一套完整的私有 AI 部署架構,讓讀者在不依賴雲端的情況下建立安全、可控且低成本的個人 AI 助理。
閱讀更多
2026-08-03 技術
GitHub 人氣專案 Mem0 已累積 6.2 萬星標——作為 AI Agent 的「記憶層」,它能讓 AI 記住使用者的偏好與對話內容,毋須每次從零開始。2026 年 4 月推出的新記憶演算法令準確度大幅提升,本文分析其備受矚目的原因。
閱讀更多
2026-06-07 tech
2026 年開源 AI 模型已經成熟到可以同商業方案媲美。由 Llama 3 到 Mistral,由 Stable Diffusion 到 Flux,由一個普通用家角度分享點樣免費自建 AI 工具,唔使畀月費都可以享受到 AI 嘅威力。
閱讀更多
2026-06-04 techAI
2026 年開源 AI 大模型三強鼎立:Meta Llama 4、DeepSeek V4、Mistral Large 3 全面評測與企業選型指南。從成本、效能、部署到合規,一次看懂自建 AI 的最佳策略。
閱讀更多
2026-05-07 tech
AI Agent 是 2026 最火熱的科技關鍵字,它跟 ChatGPT 到底差在哪?為什麼科技巨頭都在押注 Agent 時代?一文搞懂 AI Agent 的運作原理、核心架構與實用工具推薦。
閱讀更多