AI 安全專家 職業訓練課程

AI職業訓練課程內容

AI 安全專家 (AI Safety Expert) 職業訓練課程 — 三小時精華班

課程簡介：
隨著 AI 廣泛應用，安全風險如模型中毒、幻覺輸出、隱私洩漏成為企業首要挑戰。AI 安全專家專責識別、評估與緩解 AI 系統的安全威脅。本課程於三小時內濃縮攻擊防禦技術、倫理合規與安全工程實務，帶領學員掌握紅隊測試、模型防護與治理框架，適合希望確保 AI 產品安全部署的技術與管理專業人士。

課程特色

• 攻防實戰導向：結合最新 AI 攻擊技術與防禦策略

• 法規合規整合：涵蓋 GDPR、AI Act 等國際標準

• 企業風險思維：強調商業影響評估與治理流程

課程時長

共 3 小時 (180 分鐘)
理論講解 40%、攻防實作 45%、案例討論 15%

課程大綱

第一階段：AI 安全專家角色與威脅全景 (30 分鐘)

• 職能定位：紅隊測試、安全工程、倫理審核，與傳統資安差異

• AI 安全威脅分類：資料中毒、對抗樣本、提示注入、模型竊取

• 攻擊全生命週期：訓練階段、推理階段、供應鏈風險

• 法規與標準：EU AI Act、高風險 AI 系統認證、ISO 42001

第二階段：常見 AI 攻擊技術與防禦實作 (60 分鐘)

• 資料與模型攻擊：

  • 資料中毒 (Poisoning)、後門攻擊 (Backdoor) 原理與偵測

  • 對抗樣本生成 (FGSM、PGD) 與魯棒性訓練

• 生成式 AI 攻擊：

  • 越獄提示 (Jailbreak)、幻覺誘導、拒絕服務 (DoS)

  • 防禦策略：輸入驗證、輸出過濾、權重驗證

• 實作練習：使用 Foolbox 生成對抗樣本並測試模型魯棒性

第三階段：安全工程框架與部署實務 (45 分鐘)

• 安全開發生命週期 (AI SDL)：威脅建模、紅隊測試流程

• 模型安全防護：差分隱私、聯邦學習、模型加密 (Homomorphic Encryption)

• 監控與應變：AI 安全儀表板、事件回應流程、持續監控

• 合規審核：風險評估矩陣、倫理影響評估報告生成

• 簡易實作：設計 AI 安全檢查清單與防護配置

第四階段：職涯策略與治理藍圖 (30 分鐘)

• 進階領域路徑：AI 安全研究、紅隊服務、CISO 轉型

• 工具生態：Adversarial Robustness Toolbox、Guardrails AI、NeMo Guardrails

• 作品集建構：攻防報告、安全架構設計、紅隊測試案例

• Q&A 與 AI 安全事件實戰經驗交流

預期學習成果

完成課程後，學員將能：

• 全面掌握 AI 安全威脅類型與攻防技術

• 設計並實施模型安全防護與紅隊測試流程

• 建立企業 AI 安全治理框架與合規審核機制

• 建構專業 AI 安全專家作品集與職涯競爭優勢