上下文工程 (Context Engineering) AI 課程

實體AI教學課程內容

上下文工程 (Context Engineering) AI 課程大綱（兩小時精華班）

---

 

課程簡介

本課程專為 AI 開發者、產品經理、技術負責人及 AI 教育者設計，深入探討上下文工程（Context Engineering）這一新興且關鍵的 AI 系統設計學科。課程以 Google Gemini 作為核心教學工具，透過實際操作演示上下文工程的原理與實踐。學員將學習如何設計和管理大型語言模型（LLM）的完整信息環境，包括檢索文檔、對話歷史、工具定義、記憶系統及元數據管理等核心技術。課程結合理論講解與 Gemini 實作案例，幫助學員掌握構建可靠、可擴展 AI 應用系統的關鍵技能。

 

---

課程目標

• 理解上下文工程與提示工程的本質區別及相互關係

• 掌握上下文工程的核心概念與設計原則

• 學會使用 Google Gemini 設計和管理 LLM 的完整信息環境

• 能夠應用 Gemini 的上下文工程功能優化 AI 代理和 RAG 系統

• 了解企業級 AI 系統的上下文基礎設施架構

---

 

課程大綱

第一部分：上下文工程基礎概念（30 分鐘）

1.1 從提示工程到上下文工程的演進

• 提示工程的局限：

  • 關注單一交互的指令優化

  • 無法解決數據過時、檢索錯誤等系統性問題

  • 在嘈雜、多源、高容量環境中失效

• 上下文工程的興起：

  • 2025-2026 年 AI 社區的關鍵轉變

  • Anthropic、LangChain 等領先機構的定義與推廣

  • 從「如何提問」到「模型需要知道什麼」的思維轉變

1.2 核心定義與範疇

• 上下文工程的定義：

  • 設計和管理 LLM 推理期間的完整信息環境

  • 策劃和維護推理期間的最優 token 集合

  • 確保模型在正確時間擁有正確知識以可靠推理和行動

• 上下文窗口的組成要素 ：

  • 系統提示（System Prompt）

  • 用戶提示（User Prompt）

  • 對話歷史（Conversation History）

  • 檢索文檔（Retrieved Documents / RAG）

  • 工具定義（Tool Definitions）

  • 工具輸出（Tool Outputs）

  • 記憶存儲（Memory Stores）

  • 元數據（Metadata）

  • 工作狀態（Working State）

 

1.3 提示工程 vs 上下文工程：關鍵區別

維度	提示工程	上下文工程
核心問題	「我應該如何措辭這個指令？」	「模型此刻需要訪問什麼信息？」
範圍	單一查詢或任務 elastic+1	跨所有代理和任務的系統級信息流
持久性	每次使用案例重新編寫	跨使用案例的持久基礎設施
主要輸入	系統提示、用戶提示、少量示例	提示、檢索文檔、對話歷史、工具、工具輸出、狀態
設計焦點	指令的清晰度和結構	指令周圍信息的選擇和維護
技能類型	寫作技能	系統技能
可擴展性	在嘈雜環境中失效	專為處理多源、高容量數據設計

• 關鍵洞察：

  • 提示工程是上下文工程的子集，而非相反

  • 提示工程優化指令，上下文工程優化信息環境

  • 提示工程將知識放入指令，上下文工程將知識放入基礎設施

1.4 Google Gemini 的上下文工程能力

• Gemini 上下文窗口：

  • 支持超長上下文（最高 200 萬 token）

  • 原生多模態理解（文本、圖像、音頻、視頻）

  • 跨模態上下文關聯

• Gemini 上下文管理功能：

  • 系統指令（System Instructions）

  • 對話歷史管理（Conversation History）

  • 函數調用（Function Calling）

  • 檢索增強生成（RAG）集成

  • 上下文緩存（Context Caching）

 

第二部分：使用 Gemini 實作上下文工程（50 分鐘）

2.1 Gemini 系統指令設計

• 系統指令的結構：

  • 角色定義（Role Definition）

  • 任務範圍（Task Scope）

  • 行為約束（Behavioral Constraints）

  • 輸出格式（Output Format）

• Gemini 系統指令最佳實踐：

  • 清晰、簡潔的指令表述

  • 明確的邊界與限制

  • 示例驅動的行為指導

  • 避免過度複雜的指令層級

• 實作演練：

  • 建立企業知識助手的系統指令

  • 設定客服代理的行為約束

  • 設計代碼審查助手的角色定義

2.2 對話歷史與記憶管理

• Gemini 對話歷史功能：

  • 多輪對話的上下文追蹤

  • 對話摘要與壓縮

  • 關鍵信息提取與保留

• 記憶策略：

  • 短期記憶（會話內上下文）

  • 長期記憶（跨會話持久化）

  • 選擇性記憶（重要信息優先保留）

• 實作演練：

  • 使用 Gemini API 管理對話歷史

  • 實作對話摘要功能

  • 設計用戶偏好記憶系統

2.3 檢索增強生成（RAG）集成

• Gemini RAG 架構：

  • 文檔檢索與向量化

  • 檢索結果的上下文整合

  • 相關性排序與過濾

• Gemini 檢索工具：

  • Google Cloud Vertex AI 檢索

  • 向量數據庫集成（如 Pinecone、Weaviate）

  • 自定義檢索器開發

• 實作演練：

  • 建立產品文檔檢索系統

  • 整合企業知識庫到 Gemini

  • 實作多源檢索與結果融合

2.4 函數調用與工具集成

• Gemini 函數調用功能：

  • 定義外部 API 與工具

  • 自動工具選擇與調用

  • 工具輸出的上下文整合

• 工具設計模式：

  • 原子工具（單一功能）

  • 組合工具（多步驟工作流）

  • 條件工具（基於上下文的動態選擇）

• 實作演練：

  • 建立數據查詢工具

  • 集成第三方 API（如天氣、新聞）

  • 實作多工具協調的工作流

2.5 上下文預算與優化

• Gemini 上下文管理策略：

  • Token 限制下的信息優先級

  • 上下文壓縮技術

  • 動態上下文調整

• 優化技巧：

  • 相關性閾值設定

  • 上下文分層（核心 vs 輔助）

  • 智能摘要與關鍵信息提取

• 實作演練：

  • 實作上下文預算監控

  • 設計動態上下文壓縮算法

  • 優化檢索結果的 token 使用

 

第三部分：企業級 Gemini 上下文架構（25 分鐘）

3.1 Gemini 企業部署架構

• 知識基礎設施 ：atlan+1

  • 企業知識的結構化存儲

  • 文檔版本控制與更新機制

  • 訪問權限與安全控制

• 元數據管理 ：

  • 數據目錄（Data Catalog）

  • 業務術語表（Business Glossary）

  • 數據治理政策執行

• 檢索與索引服務 ：

  • 向量索引與相似度檢索

  • 混合檢索（向量 + 關鍵詞）

  • 實時索引更新

3.2 Gemini 上下文設計模式

• 檢索模式 ：

  • 按需檢索（On-demand Retrieval）

  • 預檢索與緩存（Pre-fetching & Caching）

  • 分層檢索（Hierarchical Retrieval）

• 上下文編排模式 ：

  • 動態上下文組裝（Dynamic Context Assembly）

  • 上下文管道（Context Pipelines）

  • 上下文路由（Context Routing）

• 記憶模式 ：

  • 會話記憶（Session Memory）

  • 用戶記憶（User Memory）

  • 全局記憶（Global Memory）

3.3 Gemini 可觀測性與質量保證

• 上下文質量監控 ：

  • 檢索相關性指標

  • 上下文完整性檢查

  • Token 使用效率分析

• Gemini 行為追蹤 ：

  • 決策路徑審計

  • 上下文使用日誌

  • 異常檢測與警報

• 持續優化循環 ：atlan+1

  • A/B 測試不同上下文策略

  • 用戶反饋整合

  • 基於指標的迭代改進

 

第四部分：實作案例與最佳實踐（15 分鐘）

4.1 Gemini 典型應用場景

• 企業知識助手 ：

  • 整合內部文檔、數據庫、API

  • 提供準確、可溯源的業務答案

  • 支持多輪對話與複雜查詢

• 智能客戶支持 ：

  • 訪問產品文檔、訂單歷史、用戶資料

  • 提供個性化、上下文感知的支持

  • 無縫轉接人工客服的上下文傳遞

• 代碼審查與開發助手：

  • 訪問代碼庫、文檔、最佳實踐

  • 提供上下文感知的代碼建議

  • 支持多文件、多語言的代碼理解

4.2 Gemini 上下文工程最佳實踐

• 信息分層策略 ：

  • 核心信息（必須包含）

  • 輔助信息（按需檢索）

  • 排除信息（明確過濾）

• 上下文新鮮度管理 ：

  • 定期更新檢索索引

  • 實時數據流的上下文整合

  • 過時信息的自動淘汰

• 錯誤處理與邊界控制 ：

  • 檢索失敗的優雅降級

  • 上下文超載的預防機制

  • 安全與合規的強制執行

4.3 常見陷阱與解決方案

• 上下文污染 ：

  • 問題：無關信息干擾模型推理

  • 解決：嚴格的相關性過濾與上下文壓縮

• 信息過載 ：

  • 問題：超出 token 限制或模型處理能力

  • 解決：智能摘要、分層檢索、上下文預算管理

• 上下文斷裂 ：

  • 問題：多步驟任務中信息丟失

  • 解決：狀態持久化、工作記憶追蹤

• 靜態上下文 ：

  • 問題：信息過時導致錯誤回答

  • 解決：主動元數據、實時索引更新

 

---

Gemini 實作重點

核心功能應用

功能	上下文工程應用	實作重點
系統指令	定義模型的行為與知識邊界	清晰的角色、任務、約束定義
對話歷史	管理多輪對話的上下文連續性	摘要、壓縮、關鍵信息保留
函數調用	集成外部工具與 API	工具定義、選擇、輸出整合
檢索增強	提供準確、及時的領域知識	文檔檢索、相關性排序、過濾
上下文緩存	優化重複信息的 token 使用	緩存策略、失效機制、成本優化

 

---

課程特色

• 前沿內容：基於最新 AI 工程實踐與研究

• Gemini 實作：全程使用 Google Gemini 演示上下文工程技術

• 清晰區分：明確闡述上下文工程與提示工程的本質差異

• 系統思維：從單一指令優化轉向系統級信息環境設計

• 實戰導向：結合企業級案例與可落地的設計模式

• 架構視角：強調持久性知識基礎設施而非臨時提示調整

---

 

適合對象

• AI 應用開發者與工程師

• AI 產品經理與技術負責人

• 企業 AI 架構師與數據工程師

• RAG 系統與 AI 代理開發者

• AI 教育課程設計師

• 技術團隊負責人與 CTO

• 對 AI 系統設計感興趣的高級開發者