AI Governance Glossary
什麼是 Shadow AI？
組織內員工未經批准或未受監控地使用人工智慧工具、應用程式或模型，超出了 IT 和合規部門的管轄範圍。
企業定義
類似於「影子 IT」，Shadow AI 發生在員工繞過官方採購和安全管道，使用第三方生成式 AI 工具（如 ChatGPT、Claude 或未經授權的瀏覽器擴充功能）以更快地完成工作時。
Shadow AI 是如何發生的
Shadow AI 通常不是出於惡意，而是出於摩擦。當企業政策過於嚴格或 IT 審批流程過於緩慢時，員工將獨立尋找 AI 工具以提高生產力。例子包括：
- 開發人員將專有原始碼貼到公開的 LLM 中以尋找錯誤。
- 金融分析師將機密的第三季度收益數據上傳到未經授權的 AI 摘要工具。
- 行銷團隊使用未經審查的 AI 圖像生成器，該生成器缺乏商業版權賠償。
為什麼這對企業風險很重要
Shadow AI 為企業帶來了巨大且無法量化的責任：
- 數據外洩： 公開的 AI 模型通常使用使用者輸入作為訓練數據。上傳機密資訊意味著它可能會被反饋給競爭對手。
- 違反法規： 使用未經審查的 AI 工具可能會立即違反 GDPR、HIPAA 或歐盟 AI 法案，導致嚴重的財務處罰。
- 智慧財產權損失： 輸入到公開模型中的商業機密將失去其法律保護。