在17日舉行的 Microsoft Ignite 上,Microsoft 主席兼執行長 Satya Nadella 宣布推出「AI 透明度倡議」,旨在建立適用於不同模型及供應商的共通、開放的安全及管制做法,以應對企業在部署自主 AI 代理時面臨的驗證與監管挑戰。
AI 代理普及背後的透明度挑戰
隨著企業逐漸將 AI 模型連接至數據、工具、憑證及基礎架構,讓代理能夠在不需要每一步人工批准的情況下採取行動,安全與合規風險也隨之升高。現有管控措施雖然能夠監察大部分與 AI 相關的活動,卻往往無法還原由提出請求到產生結果之間的過程,亦無法掌握模型內部的運作,或獨立核實模型對自身行為的描述。
這種證據不足的情況,為企業帶來了安全、法規遵循、審計及問責風險。Adobe 首席安全長 Aanchal Gupta 指出,隨著 AI 代理更深入融入企業營運,安全團隊需要清楚掌握這些代理正在存取什麼、採取哪些行動,以及如何驗證這些行動,在整個行業建立提升 AI 透明度的共通做法對加強信任至關重要。
從產業面來看,當 AI 代理逐漸擁有與高權限內部人員相若的存取權限,卻以機器的速度與規模運作時,過去單純「相信模型」的作法已不敷使用。微軟此次串聯 Adobe、KPMG、Accenture 等超過 40 家機構推動開放標準,關鍵不在於技術展示,而是試圖為企業建立一套不依賴單一供應商的獨立驗證機制。對一般企業而言,這意味著未來在導入自動化代理時,必須將「可追溯性」納入核心架構,才能在合規與創新之間取得平衡。
跨行業合作與具體實踐的三大方向
為了將原則落實為實際做法,「AI 透明度倡議」涵蓋了三個核心部分。首先,Microsoft 將擴大參與美國國家標準與技術研究院(NIST)的「SI 代理標準倡議」,制定適用於整個行業的開放標準。其次,Microsoft 正與 Accenture、Adobe、KPMG、Mastercard 及 Volvo Cars 等超過 40 家機構合作,確保系統具備問責機制且能接受獨立驗證。
第三,Microsoft 將把這項工作的成果融入 Microsoft AI、Microsoft Foundry 及 Microsoft Copilot,讓客戶可在自身的安全及合規工具中使用由此取得的證據。KPMG International 全球首席資訊安全長 John Israel 表示,客戶希望藉助 AI 加快步伐,且不應被迫在創新與安全之間作出取捨,這項倡議有助於提供所需的可用性與控制能力。
看清、驗證與管控的後續觀察
這項倡議主張每家機構都應能看清 AI 系統存取及執行的工作、獨立驗證其行動,並管控其獲准執行的範圍。無論企業選擇封閉式模型還是開放權重模型,開發團隊都能夠更換或更新支援代理運作的模型,而不會削弱安全團隊實施管治的能力。
Accenture 全球網路安全主管 Harpreet Sidhu 認為,當機構利用 AI 重塑業務時,需要以穩固的信任及信心作為基礎。目前這項倡議持續推動中,有意協助制定方向或了解進展的機構可透過相關管道查詢後續發展。
本文改寫整理自公開新聞來源,原始報導由科技新報發布。
常見問題 FAQ
什麼是微軟推出的「AI 透明度倡議」?
這是微軟在 Microsoft Ignite 上宣布的一項跨行業倡議,旨在聯同客戶及合作夥伴建立適用於不同模型及供應商的共通、開放安全與管制做法,提升 AI 代理的透明度與可驗證性。
為什麼企業需要更高的 AI 透明度?
因為企業正將 AI 模型連接至數據與工具讓代理自主採取行動,但現有工具往往無法還原請求到結果之間的過程,缺乏獨立驗證機制會帶來安全、合規與審計風險。
這項倡議涵蓋哪些具體做法?
涵蓋參與美國國家標準與技術研究院(NIST)的代理標準倡議、與超過 40 家合作機構制定開放標準,以及將成果融入微軟自身的 AI 與 Copilot 工具中供客戶使用。
※ 此篇文章由 AI 改寫或生成,內容僅供參考,可能存在錯誤或不準確之處。