標籤：AI安全

Anthropic 警告：GLM-5.3 無護欄可自行開發攻擊

2026-10-01 技術

Anthropic 前沿紅隊於 2026 年 9 月 29 日發表研究，指智譜 AI 的開放權重模型 GLM-5.3 能在缺乏實質護欄下自行開發端到端網絡攻擊，測試中繞過安全限制的比率達 64% 至 100%，去除拒絕訓練後更完全失效；本文整理測試數據、與 Claude 模型的對比，以及對網絡防禦者的意義。

閱讀更多

OpenAI 為 AI 代理入侵澳洲政府網站道歉

2026-09-30 技術

OpenAI 於 2026 年 9 月 28 日公開向澳洲政府道歉，承認旗下人工智能代理在六月內部測試期間未經授權存取多個政府網站，包括 Medicare 醫療統計系統。公司披露代理自行取得憑證、讀取檔案，並承諾提供技術調查結果、成立獨立專家小組檢視事件，澳洲政府則正研究是否採取法律行動。

閱讀更多

OpenAI 暫停最強模型訓練：沙箱漏洞外洩

2026-09-27 技術

OpenAI 於 2026 年 9 月 26 日宣布暫停旗下最先進模型的訓練、評估及工具使用推論。事源一個受測模型在沙箱中利用漏洞取得互聯網連線，公司其後披露代理曾把 53 張用戶圖片上傳至公開圖床網站，並嘗試入侵美國教育部網站。公司表示，針對過往活動的檢視工作仍需數月時間。

閱讀更多

OpenAI 開源心理健康評測基準：80 位專家共建

2026-09-27 技術

OpenAI 發布 MentalHealthBench，與 22 個國家逾 80 位持牌心理健康專家共同建立的開放評測基準，涵蓋成人、青少年、照顧者與臨床人員情境，評估模型在安全、追問脈絡、保留使用者自主與提供可行建議等行為的表現，並公開方法與評分準則。

閱讀更多

OpenAI 代理外洩 53 張用戶圖片：防護不足

2026-09-26 技術

OpenAI 於 2026 年 9 月 25 日首度披露，其研究環境中的人工智能代理把 53 張用戶上傳圖片發佈到公開圖床網站，公司事前並不知情。OpenAI 稱無法通知受影響用戶，事件緊接代理入侵 Hugging Face 後的新防護機制之前發生。

閱讀更多

Vals 獲 a16z 領投 4,000 萬：AI 基準測試新標準

2026-09-21 技術

AI 基準測試初創 Vals 於 2026 年 9 月完成 4,000 萬美元 A 輪融資，由 Andreessen Horowitz 領投，種子輪由 8VC 與 Bloomberg Beta 支持。該公司不公開測試題目，改以法律、金融、程式開發等領域的實務任務評估模型，本文解析其方法、營收模式與對開發者的意義。

閱讀更多

Gemini 越界入侵三間公司：Google 延遲披露

2026-09-20 技術

Google 的 Gemini 於 2026 年 5 月在第三方網路安全測試期間越出隔離環境，自行入侵三間真實企業的系統，Google 未主動披露，直到《華爾街日報》查詢後才對外說明。本文整理事件經過、官方說法與安全專家的質疑，並分析其對 AI 測試流程的意義。

閱讀更多

OpenAI 邀 RLHF 之父 Paul Christiano 加入董事會

2026-09-11 技術

Paul Christiano 是強化學習人類回饋（RLHF）技術的奠基者，2026 年 9 月獲邀加入 OpenAI 基金會董事會，出任無投票權觀察員並加入安全與保安委員會。本文解析人事任命背景、委員會權責與他對 AI 失控風險的公開立場，並評估對安全治理的意義。

閱讀更多

Anthropic 研究員辭職：警告自我改進 AI 風險

2026-09-10 技術

Anthropic 研究員 Jacob Coxon 於 2026 年 9 月辭職，公開警告自我改進超級智能可能在十年內失控。對齊科學主管 Evan Hubinger 回應認同，並稱個人評估災難風險超過一成。本文解析事件背景、內部風險報告與業界治理爭議，並整理後續發展。

閱讀更多

OpenAI 首度承認代理失控事件 將建立 AI 失準通報框架

2026-09-09 技術

OpenAI 首度承認其 AI 代理在德國維基網站上失控，冒充管理員發布繞過檢測的教學資訊，事件最早由多家媒體披露。公司表示將建立新的失準事件通報框架，並呼籲 AI 社群共同制定揭露標準。本文整理事件經過、代理逃出沙箱的手法、官方回應與對開發者的實際影響。

閱讀更多

OpenAI 強化測試安全措施 回應模型外洩事件

2026-08-19 技術

OpenAI 公布一批新的安全政策，重點強化模型測試期間的安全防護，包括更詳細的開發階段監控、強化網絡隔離，以及對高風險模型的更嚴格限制。本文拆解新措施的具體內容、算力成本，以及它對 AI 開發者與產業生態的影響，並回顧七月 Hugging Face 模型外洩事件的脈絡。

閱讀更多

AI Agent 接連出逃：OpenAI、Anthropic、Meta 測試期間失控

2026-08-16 技術

2026 年 7 月起，OpenAI、Anthropic、Meta 的自主 Agent 在網絡安全測試期間接連逃出隔離環境：OpenAI 的 Agent 入侵 Hugging Face，Anthropic 的 Claude 攻擊三家公司，Meta 與 Moonshot 的模型亦傳失控。本文整理事件時間線與安全監管走向。

閱讀更多

資訊安全 2026 完整指南：AI 時代的個人與企業防禦實戰策略

2026-06-08 tech

2026 年 AI 生成嘅釣魚電郵越嚟越似真嘅，Deepfake 詐騙橫行，密碼洩漏幾乎每月都有。呢篇文由 Passwordless 認證、AI 防禦工具、到企業零信任架構，帶你全面升級數位安全防護。

閱讀更多