Gemini Decisions API 是 Google DeepMind 於 2026 年 11 月 11 日推出的決策端點,由 Gemini Decision 1 模型驅動。它不做逐字生成,改為單次前向傳遞中對選項打分,一次請求可答最多一千條是非題與評分題,輸入可混合文字、圖像、音訊、影片與 PDF,延遲 150 至 250 毫秒。
這項端點補上代理架構裡一個長期空缺的位置。工具選擇、政策檢查、模型路由與上下文評分,本質上都是有界選擇,用完整的語言模型處理等於用重型機械做精細活。官方公布的分類任務基準顯示,新模型在延遲與校準誤差兩項指標上均領先同系列模型,而輸出詞元完全免費的計價方式,直接把成本結構改寫。
Gemini Decisions API 是什麼?
它是 Gemini API 新增的決策端點,以 Gemini Decision 1 模型對預設選項打分,回傳機率與信心分數,不生成自由文字,適合工具選擇與政策判斷。
與一般對話端點最大的差別,在於輸出形態。對話端點回傳一段文字,呼叫方要再解析、再驗證,才知答案是否可用。決策端點回傳結構化結果:每個問題的勝出選項、各候選項的歸一化機率,以及一個 0 至 1 的信心分數。程式可直接用信心分數分流,信心低於門檻就轉交人工或備援模型。
模型代號為 gemini-decision-1,透過 Gemini API 與 Google AI Studio 提供。官方在說明文件中把它定位為低延遲的控制層,開發者只要定義選項與判斷準則,不必訓練專屬分類器,也不必等待生成式呼叫回傳完整句子。
為什麼決策模型比生成模型快?
生成模型逐個詞元解碼,耗時隨輸出長度增長。決策模型一次前向傳遞即得出所有選項的機率,輸出詞元為零,延遲因此固定在百毫秒級,與問題數量幾乎無關。
官方量測的中位數為 50 至 100 毫秒模型運算時間,換算端到端為 150 至 250 毫秒。這個數字在上下文十六萬詞元以內、每次請求一至一百條問題的區間內大致持平,原因是不存在逐詞解碼的序列依賴。
成本結構同樣改變。Gemini Decision 1 每百萬輸入詞元收費 0.10 美元,輸出詞元不計費,也不收取變動的思考詞元費用,音訊轉錄與光學字元辨識不再另行計價。官方稱在同一組基準測試上,這套組合比 Gemini 3.5 Flash-Lite 配合 Interactions API 便宜近五倍。
三種題型如何運作?
noul 處理是非題並回傳成立機率;choice 在 2 至 255 個選項中挑出勝者並列出全部機率;score 依有序準則給出連續分數,三種可混在同一請求。
noul 用於二元判斷,開發者可額外附上真與假的描述準則,讓模型理解界線位置。choice 適合工具選擇與標籤分類,選項上限 255 個,回傳勝出項與正規化後的完整機率分佈,方便設定第二順位。score 則按有序準則評分,由 0 起算,回傳加權連續分數與每個等級的機率。
三種題型共用同一份輸入,可混合使用。官方示範以一張茶水間檯面照片配一句文字備註,同時判斷是否有未清理的液體、該派清潔人員還是自行擦拭、以及嚴重程度落在哪一級。這種一次輸入、多題輸出的模式,省下重複傳送圖片與文件的行動網路流量。
多模態輸入有哪些實際用法?
同一請求可混合文字、圖像、音訊、影片與 PDF,上限 256K 詞元。圖像與影片解析度可調,用以控制細節與成本,適合錄音配帳戶資料、掃描件配照片。
多模態在此不是展示功能,而是減少串接環節。傳統流程要先用轉錄服務處理錄音,再用辨識服務處理掃描件,最後才交給語言模型判斷,每一段都有延遲與費用。決策端點把三段併成一次呼叫,也把三段費用併成一筆輸入詞元。
解析度可調一項值得留意。視覺細節與詞元成本直接掛鉤,文件掃描件需要較高解析度才能讀清細字,監控畫面只需判斷有無人與是否有異物,兩者可用不同設定換取成本空間。
價格與計費方式實際如何計算?
每百萬輸入詞元 0.10 美元,輸出詞元零收費。共用輸入每請求只計一次,不論幾條問題;每條問題僅加自身指令與準則詞元,AI Studio 有免費額度。
計費邏輯對多題場景特別有利。一張圖片、一段錄音或一份 PDF 只計一次輸入,之後附加的每條問題僅增加少量指令文字。對於要同時檢查十項政策條款的合規流程,這種結構比逐條呼叫生成模型節省的不只是金錢,還有排隊等待的時間。
免費額度設於 Google AI Studio,適合先驗證準則寫得是否準確。官方同時提醒,準則描述的文字品質直接影響判斷穩定度,含糊的準則會讓信心分數整體下移,反而增加人工覆核比例。
有哪些真實產品已經在用?
Gemini Notebook 用它做即時路由,日常查詢延遲降最多四成;Stitch 用它生成線框;CC 用它挑表情;搜尋團隊用來為 MCP 工具加安全層。
Gemini Notebook 的用法最貼近控制層定義。它把進來的問題即時分派到合適的模型層級與思考深度,意圖分類在毫秒內完成,日常查詢因此快最多四成,深度推理資源留給真正需要的任務。這種分派過去常用小型分類器或規則引擎,現在改由一個多模態模型統一處理。
Stitch 的 rapid canvas 實驗用同一端點在數秒內產生可操作線框,語音或點按後的修改亦即時套用。Google Labs 的 CC 從二百多個表情中挑出合適一個,反應時間幾乎不可察覺。搜尋團隊則把它當成 MCP 工具的安全層,在延遲預算內偵測對抗性輸入。
與 OpenAI 同類 API 有何差異?
OpenAI 於 9 月底 DevDay 已推出 Decisions API,同樣以預設選項取代自由生成。Gemini 版本差異在原生多模態、單請求千條問題與輸出詞元不計費。
兩者思路一致:把有界選擇從生成流程中抽出來,用更輕的模型處理。差別落在規模與模態。OpenAI 版本以分類與行為選擇為起點,Gemini 版本把上限推到單請求一千條問題,並允許文字、圖像、音訊、影片與 PDF 混在同一份輸入。
對正在選型的團隊而言,真正的比較點不在功能清單,而在準則撰寫成本與信心分數的可信度。兩家都把校準誤差當成賣點,實際表現仍要按自身資料重測,尤其當判斷準則含主觀描述時。
開發者要如何開始?
先於 Google AI Studio 取得金鑰,選用 gemini-decision-1,以 Content 格式輸入,並在 questions 欄位定義題型與準則。
起步順序建議由單一題型開始。先寫三至五條界線清楚的是非題,觀察信心分數分佈,再逐步加入選擇題與評分題。準則文字要具體,例如以「檯面有未清理液體」取代「環境不整潔」,前者可觀察,後者靠推測。
生態整合正在陸續推出,官方點名 OpenRouter、LangChain 與 Vercel。對已在用 LangChain 的團隊,這意味著可把決策端點當成其中一個工具接入現有鏈式流程,不必改寫整體架構。同類的路由層設計可對照 LangChain 1.5 的模型路由做法。
使用上有哪些限制?
端點只處理封閉式選擇,無法生成解釋或長文;正確度受限於準則文字;千條問題與 256K 詞元為硬上限;後續執行仍由呼叫方程式碼負責。
定位清楚就不易誤用。它回答的是「哪一個」,不是「為什麼」。若產品需要向使用者解釋判斷理由,仍要接上生成模型或預寫說明文案。官方文件亦未承諾跨語言的準則一致性,非英語準則的表現需自行驗證。
另一項限制來自信心分數的性質。分數反映模型對選項的相對偏好,不等於客觀正確率。把門檻設得太低會讓錯誤流入自動流程,設得太高則大量個案轉人工,實際門檻應以一批已標註樣本校準。
這項變化對代理架構意味著什麼?
代理的成本重心正從生成轉向判斷。當分類、路由與政策檢查能以百毫秒、近零輸出成本完成,多代理系統的瓶頸移到工具執行與資料搬運,架構設計重心亦跟隨移動。
過去一年代理系統的討論集中在模型能力,較少觸及每一次判斷的固定成本。當判斷本身變得便宜,值得重新計算的是迴圈次數與驗證密度:多跑幾輪檢查、多設幾道護欄,總成本可能仍低於一次完整生成。
對自建工具的開發者,這類端點提供一個折衷位置。不必自行訓練分類器,也不必為每次判斷付生成費用,代價是把判斷準則外顯成可檢查的文字,而這恰好也是較容易維護與版本化的形式。控制層之外,終端代理的整體演進可延伸閱讀 Gemini CLI 十萬星之後的接棒安排 與 Claude 代理記憶體元件的分層設計。