標籤：推理

OpenAI 自研推理晶片 Jalapeño 每瓦效能領先業界

2026-08-27 技術

OpenAI 公布自研推理晶片 Jalapeño 首批測試結果，每瓦效能比業界領先系統高 1.5 至 1.9 倍，端到端延遲低 1.7 至 3.6 倍。晶片針對語言模型推理設計，在 GPT-OSS、DeepSeek R1 與 Kimi K2.5 三個公開模型上均居 Pareto 前沿，預計年底部署。

閱讀更多

17.9 萬星開源項目：Ollama — 一鍵本機運行開源大模型

2026-08-18 技術

Ollama 是 GitHub 星標逾 17.9 萬的開源本地大模型運行工具，以 Go 撰寫、MIT 授權，支援在 macOS、Windows、Linux 與 Docker 上以單一指令下載執行 Kimi、DeepSeek、Qwen 等開源模型，並提供 REST API 與多語言 SDK，是本地 AI 部署的主流方案。

閱讀更多

OpenAI 內部模型解決 10 個長期未解數學難題

2026-08-11 技術

OpenAI 宣布其內部未發布模型 Astra 解決了 10 個長期未解的數學問題，部分問題困擾學界數十年，涵蓋球體堆疊、糾錯碼、複雜網絡結構與後量子密碼等領域。所有證明已用 Lean 軟體驗證，並發布超過 250 頁論文，但公告初期因淡化人類數學家貢獻而引發爭議，官方其後已修改措辭。

閱讀更多

6.9 萬星開源項目：Unsloth — 本地 AI 加速引擎

2026-08-10 技術

Unsloth 是 GitHub 逾 6.9 萬星標的開源本地 AI 加速平台，以自研 Triton 內核實現模型微調最高 2 倍加速與 70% 記憶體節省，MoE 架構達 12 倍加速；Studio 介面支援 500 多種模型的運行與訓練，並可連接 Claude Code 等 Agent 工具。

閱讀更多