FreeLLMAPI 於十一月十一日發布 v0.16.25,把 34 家供應商的免費額度併成單一 OpenAI 相容端點。專案累積五萬零五百七十顆星標與七千零一十七個分支,簽章目錄追蹤 635 個免費端點,官方估計合計約 74 億 token 的月配額。

FreeLLMAPI 儲存庫 README 開頭畫面,顯示專案名稱、「7.4 billion tokens per month. 34 free LLM providers. 635 free model endpoints.」標語、CI 與授權徽章,以及 macOS、Windows、Docker、Google Play、App Store 五個安裝入口

這個數字值得拆開看。74 億 token 是各家免費層配額的總和,並非單一模型的能力指標;專案自己在 README 明言,免費額度疊起來之後仍然沒有前沿模型。

版本節奏亦反映維護強度。專案自 2026 年 4 月建立,十一月上旬已推進至 v0.16.25,最近五個版本集中在語音合成、目錄同步與 Windows 開機啟動三類修正。

FreeLLMAPI 是什麼?

FreeLLMAPI 是一套自架的 LLM 路由服務,把多家供應商的免費層收進同一個 OpenAI 相容端點,並用加密方式保管各家金鑰。

專案由開發者 tashfeenahmed 以 MIT 授權發布,主要語言為 TypeScript,官方網站為 freellmapi.co。它的定位並非模型本身,而是請求的中繼層。

使用者只會拿到一組統一的 bearer token,格式以 freellmapi- 開頭。各家的原始金鑰以 AES-256-GCM 加密後存於 SQLite,每次請求時才於記憶體解密。

它如何把 34 家供應商併成一個端點?

做法是把 OpenAI 風格的請求面完整複製一份,再按供應商能力分派。同一個模型若多家提供,會收斂成單一條目,並在組內強制容錯。

路由層覆蓋的介面相當完整。除了 /v1/chat/completions,還包括 /v1/responses、/v1/completions、/v1/embeddings、/v1/images/generations、/v1/videos/generations、/v1/audio/speech 與 /v1/audio/transcriptions。

Anthropic 的 Messages 介面亦在同一層提供。Claude Code 與官方 Anthropic SDK 可直接指向本機路由,使用免費池中的模型;Gemini CLI 則可走 /v1beta 的 generateContent 與串流。

FreeLLMAPI GitHub 儲存庫首頁頂部,顯示專案名稱、五萬餘顆星標、七千餘個分支、TypeScript 語言標記與專案描述

74 億 token 的月配額怎樣算出來?

此數字是 34 家供應商免費層配額的總和,涵蓋 474 個模型家族與 635 個端點。實際可用量取決於各家的速率上限與當日剩餘額度。

README 把配額拆成四類端點。584 個對話端點、41 個向量端點、7 個語音轉錄端點與 3 個影片端點,合計 635 個免費端點,均綁定具體供應商與模型。

值得注意的是配額的消耗分佈。專案說明路由會為每個「供應商、模型、金鑰」三元組維護 RPM、RPD、TPM、TPD 四類計數器,並依供應商回報的上限自我校正。

路由與容錯機制有哪些設計?

路由會依即時的速度、能力與穩定度分數排序,遇到 429 或 5xx 時冷卻該金鑰並換下一家。另有六種策略與具名備援鏈,可按任務切換。

計分方式並非靜態。專案以實際請求量測每個模型的速度與可靠度,讓排序隨狀況浮動;同一段對話會在單一模型停留 30 分鐘,必要時以精簡的交接摘要維持連貫。

專案另提供一個名為 fusion 的虛擬模型。請求該模型時,路由會把提示同時發給多個免費模型,再由一個評審模型綜合各份草稿,屬於成本換品質的做法。

開源授權與付費邊界在哪裡?

路由本體為 MIT 授權,永久免費。付費只涉及即時目錄:免費安裝取月度快照,付費每年 19 美元或一次 49 美元取得當日更新。

這條界線的設計值得記錄。目錄由 freellmapi.co 以 Ed25519 簽章後下發,路由每日同步兩次;免費安裝落在月度快照,新模型要等 30 日才進入清單。

因此免費層目前大約落後 303 個模型。專案強調這些模型不會消失,只是延後抵達;付費版本則與即時目錄同日對齊。

實際使用有哪些限制?

限制寫在專案自己的文件裡:沒有前沿模型、延遲波動大、沒有服務承諾。熱門模型的日配額通常在傍晚耗盡,需等世界協調時午夜重置。

專案把它標為「個人實驗用途」。多數供應商的免費層條款本身亦限制商業使用或轉售共用存取,路由只是把既有條款聚合,並未免除個別條款。

另一個結構性問題是尖峰衰減。當頭部免費模型在當日達上限,端點的實際能力會下滑,直到協調世界時午夜重置;這種波動對需要穩定輸出的批次任務影響最大。

FreeLLMAPI 儲存庫的貢獻者與統計區塊,顯示專案累積的貢獻者頭像、星標走勢與版本發布記錄

專案目前的數據表現如何?

專案累積五萬零五百七十顆星標與七千零一十七個分支,待處理議題 75 個,語言為 TypeScript,授權為 MIT,閒置記憶體約 40 MB。

50,570Stars
7,017Forks
122貢獻者
v0.16.25最新版本
MIT授權條款
TypeScript主要語言

分支與星標的比例約為一比七,高於一般工具型專案的常見水平。這個比例通常反映「下載來改」而非「收藏起來看」的使用習慣,與自架服務的性質相符。

介面支援 60 種語言,桌面版托盤提供其中 6 種。原始 6 種由人工校對,其餘為機器翻譯,專案明確說明品質會隨社群修正逐步提升。

與同類閘道相比有何差異?

同類工具以付費模型為主,重點在統一帳單與團隊治理。此專案的差異在於只聚合免費層,並把各家配額上限當成路由的第一約束。

README 以圖表對照 OpenRouter、LiteLLM 與 Portkey,並註明依據為 2026 年 7 月的公開文件。這個對照帶有自我定位的意圖,讀者宜自行核對原始文件。

差異的核心其實是約束條件。付費閘道的路由可以假設額度充足,免費聚合則必須把「哪一家今日還有額度」當成首要變數,這也是它維護四類計數器的原因。同樣走自架閘道路線的對照案例,可參考 LiteLLM 的統一介面做法 與 New API 閘道的多租戶設計。

出處連結有哪些?

本文資訊來源為 tashfeenahmed/freellmapi 的 GitHub 儲存庫與 v0.16.25 發布說明,數據取自公開頁面。

專案位址為 https://github.com/tashfeenahmed/freellmapi ,官方網站為 https://freellmapi.co ,安裝腳本與文件索引均在儲存庫內。版本 v0.16.25 於 2026 年 11 月 11 日發布。

總結:FreeLLMAPI 適合什麼團隊?

它適合個人開發者、原型驗證與自架實驗,能把散落的免費額度收成一個介面。需要穩定延遲、商業授權或前沿模型能力的團隊,仍應走付費供應商路線。

這個專案的價值在於把「管理三十四套額度」的維運工作自動化。對於經常切換工具的開發者,統一端點省下的是設定時間與心智負擔。

評估時宜同時看兩面。免費聚合降低了嘗試成本,卻把穩定性風險轉嫁給使用者的排程設計;把它當成實驗台而非生產依賴,判斷會更貼近實際。

常見問題有哪些?

常見疑問集中在收費、用戶端支援、金鑰存放位置、免費與付費差異,以及能否用於生產環境五項,以下逐項說明。

FreeLLMAPI 需要付費才能使用嗎?

路由本體以 MIT 授權發布,可免費自架並長期使用。付費項目只有即時目錄同步,價格為每年 19 美元或一次 49 美元終身。

它支援哪些用戶端工具?

任何可指定 OpenAI 相容位址的用戶端均可接入,包括 Claude Code、Codex CLI、Gemini CLI、Cursor、Cline、Roo Code、OpenCode 與 Aider,另有 MCP 介面供代理查詢。

金鑰會上傳到官方伺服器嗎?

不會。各家供應商金鑰以 AES-256-GCM 加密存於本機 SQLite,請求時於記憶體解密;目錄伺服器只下發簽章清單,不會接觸提示或回覆內容。

免費層與付費層的差別在哪裡?

兩者使用同一份簽章目錄,差別在更新頻率。免費層取月度快照,新模型延後 30 日抵達;付費層與即時目錄同日對齊,目前約差 303 個模型。

可以在生產環境使用嗎?

專案自己標明為個人實驗用途。免費層沒有服務承諾,延遲波動明顯,且頭部模型常在傍晚觸及日配額,不建議承載關鍵業務流量。