LiteLLM 於 2026 年 11 月 4 日把 1.108.0 標記為該專案首個長期支援版本,這個累積 63,269 顆星標的開源 AI 閘道在版本說明發布之後連續推出九個修補版,並以固定的 lts 映像標籤維持同一條維護線,讓自架部署不必跟隨每日開發節奏。

專案由 BerriAI 於 2023 年 7 月建立,屬 Y Combinator 2023 年冬季梯次團隊,以 Python 撰寫,主體採 MIT 授權。它的定位是把不同供應商的請求格式統一為 OpenAI 介面,同時處理金鑰、配額與成本記錄。
LiteLLM 1.108 LTS 是什麼?
LiteLLM 1.108.0 於 2026 年 11 月 4 日發布並標記為長期支援版本,是 MIT 授權的開源 AI 閘道,以統一格式呼叫 100 多個模型供應商。
長期支援標記的實際意義落在映像標籤上。官方文件指出 lts 標籤永遠指向最新的 LTS 修補版,部署端只要固定拉取這個標籤,就能在不安裝新版的前提下取得修補。
對照之下,-stable 標籤代表通過十二小時壓力測試的版本,而開發線仍以每日節奏產出 dev 與 rc 版本,例如 1.111.0 系列在 11 月 15 日已有第四個開發版。三條線並存,令團隊可以按風險承受度選擇其中一條。
LTS 標籤對部署節奏有什麼影響?
1.108 線在十日內推出九個修補版,涵蓋 Bedrock、Azure 與 Responses 介面;固定拉取 lts 標籤可在不改動版本號的前提下取得修正。
九個修補版的內容集中在既有供應商的細節修正。1.108.9 把混合推理與答案保留機制回填到該線,並修復 Azure AI Foundry 的推理強度傳遞;1.108.8 處理 Responses 橋接層的快取斷點。
版本節奏密集本身是一項訊息。專案同時維護開發線、穩定線與長期線,意味著修補需要被重複回填三次,這個成本只有在使用者規模足夠時才值得支付。
容器映像全部以 cosign 簽署,官方在版本說明中要求部署端以固定提交雜湊驗證簽署金鑰。這道手續看似多餘,卻是供應鏈攻擊下的最低防線。
1.108 加入哪些路由與搜尋能力?
本版加入 Gemini Family 自動路由預設、複雜度路由的分類器串接,以及 Bing 搜尋接地與 Vertex AI 原生支援。
路由能力的重點在成本分層。開發者可在模型清單中宣告一個名為 auto 的虛擬模型,把請求按複雜度分成四級,簡單與中等導向較便宜的模型,複雜與推理級導向能力較強的模型。分類器可選啟發式或模型判斷,本版進一步支援兩者串接。

搜尋接地則補上 Bing 作為可用來源。模型在需要即時資料時可直接呼叫該供應商,無須自行串接第二套 SDK。
LangChain 1.5 亦把模型選擇交給分類器處理,兩者的差別在於前者作用於應用層的鏈式流程,LiteLLM 則站在閘道層攔截所有請求,對多團隊共用同一組金鑰的組織更直接。
企業需要留意的授權邊界在哪裡?
授權檔把 litellm/enterprise 目錄劃歸商業授權,其餘程式碼為 MIT。單一登入、專業支援與自訂整合屬企業版範圍,自架使用者需按目錄判斷。
授權檔的寫法值得細讀。檔案明言 enterprise 目錄下的內容依該目錄內的授權條款處理,目錄以外的程式碼則適用 MIT。這代表直接部署開源映像沒有授權問題,但把企業目錄的程式碼抽出使用則需要另行取得授權。
商業模式的界線因此相當清楚。企業版提供單一登入、專屬支援通道、自訂整合與服務等級協議,開源版則保留金鑰管理、成本追蹤、防護規則與負載平衡等核心能力。
專案目前有 5,198 個未結議題,這個數字與維護規模成正比。自架團隊遇到非預期行為時,社群回應速度會是評估重點之一。
升級到 1.108 前應檢查什麼?
升級前應確認映像標籤改為 lts 或指定 1.108 修補版、驗證 cosign 簽章,並檢視自訂掛鉤是否依賴已被移除的舊介面。
最容易被忽略的是映像標籤。若部署檔仍固定指向開發線的具體版本,更新會停留在該版本,長期線的修補不會自動送達。
第二項是介面契約。1.108.0 的變更清單列出 162 項功能與 509 項修復,其中包含移除提示詞 token 計算器這類破壞性改動,依賴該函式的自訂程式需要改用新的計算路徑。
第三項是資料庫遷移。閘道把金鑰、團隊與支出記錄存在關聯式資料庫,跨多個版本一次跳升時,遷移腳本需要先在影子環境驗證。n8n 3.0 的節點大清倉亦屬同一類教訓,升級前先讀棄用清單,比事後回滾便宜。
LiteLLM 的主要數據有哪些?
LiteLLM 累積 63,269 顆星標與 13,284 個分支,主要語言 Python,主體採 MIT 授權,最新長期支援版本為 1.108.9。

官方基準頁面記載,在每秒 1,000 次請求的負載下 P95 延遲為 8 毫秒。這個數字適用於代理層自身開銷,實際端到端延遲仍取決於後端模型的回應速度。
出處連結有哪些?
本文資訊整理自 LiteLLM 官方儲存庫的 README、1.108 版本說明與授權檔,原始碼、映像與完整變更清單可在其 GitHub 頁面查閱。
出處為 GitHub 上的 BerriAI/litellm 儲存庫,版本說明逐項列出對應的拉取請求編號,便於追溯個別修正:
- 儲存庫:https://github.com/BerriAI/litellm
- 版本說明:https://github.com/BerriAI/litellm/releases
- 官方文件:https://docs.litellm.ai
總結:LiteLLM 1.108 適合什麼團隊?
同時使用多個模型供應商、需要集中管理金鑰與成本的團隊最適合採用;只呼叫單一供應商且用量有限的專案,直接使用官方 SDK 更為輕省。
長期支援版本的出現,反映這類閘道已進入基礎設施階段。當一個元件被放進請求路徑的中央,版本跳動帶來的風險就不只是功能差異,而是整條服務的可用性。
選擇長期線的代價是功能滯後。1.108 之後的開發線已推進到 1.111,新增能力不會即時回填,團隊需要在穩定與新功能之間明確取捨。
較務實的做法是把閘道版本納入與資料庫同級的變更管理。固定標籤、驗證簽章、影子環境驗證,三步都不複雜,缺一步就會在事故當日付出代價。