企業 AI 加速發展：如何由存取、數據到 Runtime 建立完整安全防線？
- 9 hours ago
- 4 min read
人工智能正由內容生成及問答工具，逐步發展成企業業務流程的一部分。
現時不少企業正建立 Retrieval-Augmented Generation（RAG）應用、企業知識平台及 AI Agent。這些 AI 系統不但能搜尋內部文件，更可以連接資料庫、SaaS 平台及外部工具，甚至代表用戶執行操作。
AI 的能力越強，能夠接觸的數據及系統亦越多。企業在推動創新的同時，亦需要重新審視現有安全架構能否應對 AI 帶來的新風險。
企業 AI 帶來哪些安全挑戰？
企業 AI 環境可能同時涉及公共 AI 平台、內部數據、第三方模型、AI Agent、MCP Server 及不同外部工具。
這些組件令企業需要保護的，不再只是用戶登入及網絡流量，還包括 AI 如何理解指令、搜尋資料、選擇工具及執行操作。 Shadow AI 與數據外洩
即使企業未正式推出 AI 計劃，員工亦可能已經自行使用不同的公共 AI 工具。
當員工將客戶資料、內部文件、財務紀錄或程式碼輸入未經批准的平台，便可能形成 Shadow AI 及數據外洩風險。
企業首先需要了解員工正在使用哪些 AI 應用，並控制哪些數據可以進入公共或私人 AI 平台。
RAG 與 Prompt Injection
RAG 可以讓 AI 讀取企業知識庫及文件，提供更準確的答案，但同時亦令敏感數據更接近 AI 模型。
攻擊者可能利用 Prompt Injection，誘導 AI 忽略原有指令、存取未經授權的資料，或在回應中披露敏感內容。惡意指令亦可能隱藏在文件、網頁或電郵之中，令 AI 在用戶不知情的情況下受到操控。
AI Agent 與工具風險
與一般聊天機械人不同，AI Agent 可以發送電郵、存取資料庫、呼叫 API 或啟動工作流程。
如果 Agent 權限過高，或使用了受污染的 MCP Server、工具或 Agent Skill，便可能執行未經授權的操作。
常見風險包括 Tool Poisoning、Rug Pull Attack、Memory Poisoning，以及透過外部內容發動的 Indirect Prompt Injection。
AI 安全需要覆蓋整個生命週期
面對以上風險，企業需要從兩個層面建立防護：
第一層：管理誰可以使用 AI，以及哪些數據可以進入 AI。
企業需要控制用戶、裝置、AI Application 及數據流動，並識別及限制未經批准的 AI 工具。
第二層：保護 AI 系統本身如何運作。
當 Prompt 進入 AI Application 後，企業仍需要保護 Model、RAG、Agent、MCP、Tool 及模型回應，防止 Prompt Injection、數據外洩及不安全操作。
簡單來說，企業既要管理「誰可以使用 AI」，亦要控制「AI 可以做甚麼」。
Amidas.AI 與 Cisco 的端到端 AI 安全方案
為協助企業建立更完整的 AI 環境，Amidas 將 Amidas.AI、Cisco Secure Access 及 Cisco AI Defense 結合：
Amidas.AI 協助企業建立 AI 應用；Cisco Secure Access 管理用戶如何使用 AI；Cisco AI Defense 則保護 AI 系統本身如何運作。
在整體架構中，Cisco Secure Access 於 Prompt 進入 AI Stack 前管理用戶、裝置、AI Application 及敏感數據；Cisco AI Defense 則在 AI 運行期間保護 Model、RAG、Agent、MCP 及模型回應。
Amidas.AI：建立企業級 AI 應用
Amidas.AI 協助企業將內部知識、數據及業務流程轉化為實際 AI 應用，包括：
* Enterprise Knowledge Base
* Intelligent Search 及文件分析
* RAG 智能助理
* 內部員工支援平台
* 業務流程自動化
* 與企業系統連接的 AI Agent
Amidas 亦可按企業的數據安全、效能及合規要求，提供 Cloud、Hybrid 及 On-premises 部署方案。
Cisco Secure Access：管理 AI 存取及數據流動
Cisco Secure Access 負責 AI 使用前的安全控制。
透過 Zero Trust Network Access、Secure Web Gateway、CASB、AI Application Control 及 Data Loss Prevention，企業可以：
* 識別員工正在使用的 AI Application
* 限制未經批准的 AI 平台
* 按用戶及裝置狀態控制存取
* 防止敏感資料被輸入公共 AI 工具
* 為公共及私人 AI 應用執行一致政策
Cisco AI Defense：保護 Model、Agent 及 Runtime
Cisco AI Defense 可從三個方面保護 AI 系統：
AI Supply Chain
發現及管理 Model、Dataset、Agent、MCP Server、Tool 及其他第三方 AI Component，提升對 AI 資產及風險的可視性。
AI Validation 及 Red Teaming
在應用推出前，測試 Prompt Injection、Data Exfiltration、Harmful Output、未經授權工具使用及多輪攻擊等風險。
AI Runtime Guardrails
在系統運行期間檢查 Prompt、Response、RAG 及 MCP 通訊，阻止惡意指令、敏感資料外洩、不安全回應及受污染的工具。
企業亦可以按業務需要設定政策，例如限制醫療 AI 作出診斷，或限制法律科技應用提供受監管的法律意見。
以安全與信任推動企業 AI
企業 AI 安全不應只集中於單一模型或工具，而需要涵蓋整個 AI Journey。
透過 Amidas.AI、Cisco Secure Access 及 Cisco AI Defense，企業可以由 AI 應用建設、用戶存取及數據保障，一直延伸至 Model、RAG、Agent、MCP 及 Runtime Protection。
這讓企業能夠在推動 AI 創新的同時，維持對數據、應用及業務流程的控制，建立更安全、可信及具管治能力的企業 AI 環境。
正在規劃 Enterprise AI、RAG 或 AI Agent 項目？
立即聯絡 Amidas，讓我們協助您評估現有 AI 使用情況、潛在安全風險及部署需要，並建立由存取、數據到 Runtime 的完整 AI 安全架構。
電話：2168 0388
Whatsapp: 9828 3401
