根據全球網路資安廠商趨勢科技近日發布的聲明指出，該公司已與NVIDIA擴大合作範疇，將共同支援NVIDIA在GTC大會上最新揭露的開源代理式AI執行環境「NVIDIA OpenShell」。隨著人工智慧生態系統持續演進，特別是代理式AI的興起，其所帶來的獨特資安挑戰日益受到關注，而此次合作正是為了顯著提升NVIDIA OpenShell的整體資安防護能力。
代理式AI資安新挑戰：風險特徵與傳統模型異同
數據顯示，代理式AI的運作模式與傳統AI系統存在根本差異，這也導致其資安風險特徵截然不同。傳統AI資安模型主要針對短暫的使用者與模型互動情境設計，但代理式AI卻能長期運作，具備自我規劃、採取行動並與其他工具互動的能力，進而在各種複雜環境中執行任務。
趨勢科技企業事業群營運長金敬秀對此深入分析：
「代理式AI正在改變資安的公式。當AI系統能夠自我規劃、採取行動並與其他工具互動時，其風險特徵將與傳統AI截然不同。與NVIDIA的合作，將安全直接嵌入核心架構，幫助企業以所期望的可視性與控制力來採用代理式AI。」
這種自主且持續運作的特性，儘管能顯著提升生產力，卻也引入了多種新型資安威脅。具體而言，這些風險包含：
- 未授權存取：代理式AI可能在未經授權的情況下存取敏感資料或系統資源。
- 隱藏行為：自主運作的AI代理可能執行未被預期或監控的隱藏行為。
- 提示詞注入：惡意行為者可能透過提示詞注入來操控AI代理的行為。
- 非預期系統存取：AI代理可能在執行任務過程中，意外地存取到不應觸及的系統或應用程式。
趨勢科技與NVIDIA聯手打造內建安全架構
為應對代理式AI帶來的獨特挑戰，趨勢科技與NVIDIA的合作重點在於將安全機制直接整合至核心架構中。NVIDIA OpenShell作為一個開源執行環境，正是為支援長期運行且具備自我進化能力的AI代理而設計，因此內建的資安防護至關重要。
NVIDIA策略性企業合作夥伴副總裁Pat Lee也強調了此次合作的策略意義：
「代理式AI開闢了能夠自我規劃、推理與執行的新應用，透過與趨勢科技的合作，能幫助開發者引入可視性與管控機制，讓自主AI的運行變得更加安全。」
這項合作不僅針對NVIDIA OpenShell，更進一步延伸至NVIDIA AI Q藍圖與NVIDIA NeMo Agent Toolkit。其核心目標是確保在企業環境中擴展的代理式系統，能夠具備一致性的安全性、治理能力與可觀測性，為企業大規模部署代理式AI提供堅實的基礎。
數據背後的啟示：迎接安全自主AI時代
趨勢科技與NVIDIA的深度合作，明確指出資安已成為代理式AI普及的關鍵前提。隨著AI系統日益自主化，將安全從外部附加元件轉變為核心架構的內建要素，是確保其可靠運行並防範潛在風險的唯一途徑。這不僅能賦予企業採用新興AI技術的信心，更能為未來的自主AI應用開創一個更安全、更可控的發展環境，讓創新與防護並行不悖。
Author
Related Posts
