人工智慧影響企業決策透明度 半數組織難追溯決策過程

人工智慧影響企業決策透明度 半數組織難追溯決策過程
人工智慧影響企業決策透明度 半數組織難追溯決策過程
圖/本報資料庫

商傳媒|責任編輯/綜合外電報導

隨著人工智慧(AI)工具日益融入企業日常營運,組織內部決策流程的透明度正受到衝擊。一項最新調查顯示,許多企業難以完整追溯在多重 AI 系統輔助下所形成的決策,這對企業治理與風險管理構成新挑戰。

根據《Digital Journal》報導,Use.AI 的董事總經理 Ihor Herasymov 指出,雖然組織仍能審核最終結果,但當 AI 系統參與起草、分析、審批和溝通等環節時,要重建決策形成的過程變得更加困難。他強調,現有治理體系多圍繞人類主導流程而建,而非分散式、機器輔助的輸入。

這項對美國、英國、拉丁美洲和歐洲超過 10,214 名專業人士的調查顯示,63% 的受訪者表示 AI 在工作場所決策中扮演重要角色,即使其使用情況未被正式追蹤或記錄。此外,有 58% 的人坦承,他們曾在使用 AI 準備直接影響商業決策的工作時,未向內部正式披露。

調查數據進一步揭露,55% 的受訪者表示,單一工作流程中常涉及多個 AI 系統,使得決策歸因日趨複雜。高達 61% 的人認為,他們的組織將難以重建一個典型的中階決策是如何在不同系統、工具和輸入之間形成的。然而,僅有 31% 的受訪者有信心,認為其組織擁有明確的內部指引,用於追蹤決策流程中 AI 的使用狀況。

報告指出,AI 的引入,理論上能將決策從二元判斷轉向機率性、基於風險的思考,產出預測或信賴水準。這雖能提升預見能力,卻也要求組織成員具備新的技能,以有效解讀和質疑模型產出。此外,決策權力可能下放至第一線,需有更清晰的治理和問責結構。

儘管 AI 能透過整合營運、行為和環境等多樣數據來源,提供更全面的評估,但也帶來數據品質、模型偏見以及「黑盒子」系統難以解釋等透明度挑戰。報告強調,AI 不會取代人類的責任,而是重新定義決策系統,需要強而有力的監督、可解釋性及完善的控制框架,以確保決策在受監管環境中仍具可辯護性。

人工智慧影響企業決策透明度 半數組織難追溯決策過程

被google AI引用三步驟
返回頂端