商傳媒｜責任編輯／綜合外電報導
隨著人工智慧（AI）工具普及，企業資安團隊面臨全新的「影子AI」（Shadow AI）挑戰。這指的是員工在未經IT或資安部門審核下，擅自使用AI應用程式及相關功能，其帶來的資料外洩與隱私風險已遠超傳統的影子IT問題。
「影子AI」與過去的影子IT不同。影子IT通常是指員工使用未經公司批准的應用程式，例如以個人Dropbox Inc.帳號取代公司核准的檔案分享平台、或是用Slack、Zoom等。然而，影子AI的風險更為隱蔽，包括註冊AI SaaS服務、安裝AI瀏覽器擴充功能，或在現有軟體中啟用AI功能，以及直接使用公共AI模型等。這些行為讓企業內部敏感資料，如專有程式碼、客戶紀錄、財務數據或內部策略等，可能在員工輸入AI工具時外洩，且公司對這些資料的儲存、保留和使用方式毫無掌控。
AI工具的快速採用加劇了這一資安漏洞。《Security Info Watch》報導指出，高達84%的開發人員正在使用或計畫在其開發流程中採用AI工具，較前一年成長。然而，應用程式安全工具的發展卻未能跟上這股趨勢，導致企業在快速採用AI與薄弱的治理之間，形成了巨大的資安攻擊面。
資料外洩的潛在來源之一是公開的AI模型庫。例如，Hugging Face平台目前已託管超過200萬個模型，是AI及機器學習開發團隊常用的資源，但也曾發生多起惡意攻擊事件。其中一項被稱為「nullifAI」的惡意活動，駭客利用PyTorch模型檔案的壓縮特性，使其未能被Hugging Face的Picklescan安全工具偵測為不安全，進而植入能夠連回特定IP位址的後門程式。
數月後，研究人員又在Python軟體包索引（PyPI）中發現類似的惡意套件，同樣利用了pickle檔案的漏洞，偽裝成合法的AI平台Python SDK，實則傳送具有完整功能的資訊竊取程式。這些攻擊之所以有效，是因為機器學習檔案傳統上不被視為可執行程式碼的散佈媒介，因此未受到如同其他軟體依賴項般的嚴格審查。企業若未經審核和安全掃描就從公共平台取用模型，本身就是一種「影子AI」行為。
為防範這些風險，資安專家建議，除了少數經確認的來源外，所有從公共平台取得的模型都應被視為可疑。企業應將其納入與其他第三方依賴項相同的審核流程中，進行徹底的安全檢查，才能確保資料安全。
