Anthropic新AI模型鎖定資安漏洞 不公開僅供大型科技廠強化防禦

Anthropic新AI模型鎖定資安漏洞 不公開僅供大型科技廠強化防禦
Anthropic新AI模型鎖定資安漏洞 不公開僅供大型科技廠強化防禦
圖/本報AI製圖(示意圖)

商傳媒|葉安庭/綜合外電報導

美國人工智慧(AI)開發商 Anthropic 近日揭露其最新研發的 AI 模型 Claude Mythos,具備突破性的網路安全漏洞偵測能力。然而,Anthropic 考量到該模型強大的潛在威脅,決定不對外公開釋出,而是透過與全球主要科技基礎設施供應商合作,共同提升網路防禦能力。此舉旨在利用 AI 的力量,防堵可能由惡意 AI 造成的資安風險。

Anthropic 聲稱,Claude Mythos 在尋找並利用軟體漏洞方面的程式編碼能力,已超越絕大多數人類專家。透過初步測試版本 Claude Mythos Preview,該模型已在多個主流作業系統及網頁瀏覽器中,成功識別出「數千個」嚴重安全漏洞。Anthropic 執行長達里奧·阿莫德伊(Dario Amodei)表示,若能正確運用這項技術,將有機會打造比 AI 時代前更安全的網路環境,但若處理不當,其危險性亦不容忽視。

為應對先進 AI 模型所帶來的網路安全挑戰,Anthropic 同步發起一項名為「Project Glasswing」的合作計畫。該計畫將開放超過 40 家機構存取 Claude Mythos,共同改進其防禦 AI 攻擊的能力。參與者涵蓋多家產業巨擘,包括蘋果(Apple)、亞馬遜網路服務(Amazon Web Services)、博通(Broadcom)、思科(Cisco)、CrowdStrike、Google、摩根大通(JPMorgan Chase)、Linux 基金會、微軟(Microsoft)、輝達(Nvidia)以及 Palo Alto Networks 等。Anthropic 更承諾,將投入 1 億美元的 Mythos 使用額度,並捐贈 400 萬美元予開源安全組織,以支持網路安全生態系的發展。思科(Cisco)首席安全與信任長安東尼·格里耶科(Anthony Grieco)指出:「我們發現的結果令人矚目。」亞馬遜網路服務(AWS)副總裁兼首席資訊安全長艾咪·赫爾佐格(Amy Herzog)則形容 Claude Mythos Preview 是「網路安全領域推理及 AI 能力的一大進步」。

資安公司 Norton 的威脅情報總監米哈爾·薩拉特(Michal Salát)指出,漏洞研究正迅速成為 AI 在網路安全領域的主要實際應用案例之一,儘管 Claude Mythos 比現有頂級模型如 Opus 4.6 有顯著進步,但 AI 發現漏洞的能力早已存在,例如先前的 DARPA 網路大挑戰(Cyber Grand Challenge)便有所體現。這項發展預計將受到各國政策制定者的密切關注。美國參議員馬克·華納(Mark Warner)對 Project Glasswing 表示肯定,讚揚這些領先企業意識到潛在威脅,並主動分享資訊與能力以保護關鍵基礎設施。他也呼籲,隨著 AI 大幅加速發現新漏洞,業界應同步加速並重新調整漏洞修補的優先順序。

Anthropic新AI模型鎖定資安漏洞 不公開僅供大型科技廠強化防禦

被google AI引用三步驟
返回頂端