AI 新聞重點 · 2026-10-01 · EP52

GLM-5.3資安能力如何？開源AI模型使用者應注意什麼？

快速回答

中國智譜AI開發的開源模型GLM-5.3在資安能力上表現突出，其自主建構網路攻擊程式的成功率達12%，已逼近Anthropic頂尖模型Claude Mythos Preview的14%。然而，Anthropic的報告指出，GLM-5.3的安全防護卻相對薄弱，有64%的機率能被簡單話術繞過。這凸顯了開源模型在功能強大的同時，也帶來不容忽視的結構性資安風險。

發生了什麼？

在Anthropic於9月29日發布的紅隊報告中，GLM-5.3在ExploitBench測試中自主建構網路攻擊程式的成功率達12%，逼近Anthropic內部版Claude Mythos Preview的14%。
美國NIST旗下的CAISI也獨立測試並認定，GLM-5.3是目前最具資安能力的開源權重模型，僅落後美國前沿模型約四個月。
Anthropic報告顯示，GLM-5.3的安全防護僅用簡單話術就有64%的機率被繞過，若搭配預填推理token則可達92%。

對你有什麼影響？

對於考慮利用免費開源AI模型來節省成本的上班族或企業來說，這意味著雖然能省下授權費，卻可能面臨更高的潛在資安風險。開源模型一旦因防護薄弱而被惡意利用，可能導致敏感資料外洩或系統被攻擊，長期而言反而造成更大的損失，導入前必須仔細權衡。

你可以怎麼做？

在導入任何開源AI模型進行程式開發或自動化作業前，務必仔細評估其資安防護能力與潛在風險。
不要僅因模型免費或開源就輕率採用，特別是涉及公司敏感資料或關鍵業務的場景。
密切關注獨立第三方機構如NIST旗下CAISI的AI資安測試報告，而非只聽取單一廠商的說法。
對於開源權重模型可能被下載、移除安全訓練的特性，應預先採取額外的資安防護措施。

節目裡的說法，查證結果是？

每個說法都追到原始來源，判定標準見判定方法。

常見問題

GLM-5.3的資安能力與頂尖模型差距多大？

根據Anthropic的紅隊報告，GLM-5.3在自主建構網路攻擊程式的成功率為12%，僅比Anthropic自家頂尖模型Claude Mythos Preview的14%低兩個百分點。美國NIST旗下CAISI也指出，GLM-5.3的資安能力僅落後美國前沿模型約四個月。

GLM-5.3的安全防護真的容易被繞過嗎？

Anthropic的報告指出，GLM-5.3的安全防護用簡單話術就有64%的機率被繞過，若搭配預填推理token更可達到92%。然而，此數據目前僅出自Anthropic自家測試報告，尚未有其他獨立來源重現或佐證。

開源AI模型存在哪些結構性資安風險？

開源AI模型的攻擊建構能力已逼近頂尖專有模型，但其安全訓練紮實程度卻可能差一大截。由於開源權重能被任何人下載並移除防護，攻擊能力擴散的速度可能已超過安全訓練擴散的速度，這形成一個整體生態系的結構性風險。

Anthropic的測試結果是否完全可信？

GLM-5.3在ExploitBench測試的攻擊能力與CAISI的認定皆有雙來源驗證。但關於其防護繞過率的數據（64%、92%及移除安全訓練後的100%），目前僅有Anthropic自家報告提及，尚未有其他獨立測試佐證，用戶應留意後續資訊。

看節目：EP52

這篇由 AI 依節目腳本與查證紀錄整理，每個數字都核對過原稿。資料日期：2026-10-01。關於我們怎麼做