在大型語言模型（LLM）的實際應用與進階 AI Agent 開發中，開發者與從業者最常面臨的瓶頸之一，便是 Token 限制 與 上下文視窗（Context Window）飽和 所帶來的品質下降。當輸入的背景資訊過多時，模型容易發生「注意力漂移」（Attention Drift），甚至忽略核心指令。
因此，上下文工程（Context Engineering） 應運而生。它不同於單純的提示詞設計（Prompt Engineering），而是從架構層面管理、裁剪與優化輸入給模型的資訊流，在極有限的 Token 額度內榨出最高準確度與邏輯深度。
核心挑戰：為什麼盲目增加 Context 會降低表現？
-
資訊過載與噪音干擾：當背景資料中夾雜大量無關的對話紀錄或冗長文本，模型對關鍵指令的權重會被稀釋。
-
成本與延遲上升：Token 消耗量與運算成本成正比，超長上下文會直接拖慢反應速度。
-
長文本遺忘效應：即便是支援百萬級 Token 的模型，在處理長距離依賴時仍可能出現「中間迷失」（Lost in the Middle）現象。
突破限制的四大上下文工程策略
1. 動態上下文裁剪與雜訊清除
在將資料送入模型前，必須實施嚴格的清洗流程。
-
去除冗餘標籤與空白：移除不必要的 HTML 標籤、重複的對話前綴及空白字元。
-
語意級摘要（Semantic Summarization）：對於歷史對話或長篇參考文件，透過輕量級模型進行分段摘要，僅保留核心決策點與關鍵狀態，而非全盤餵入。
2. 結構化資料壓縮
人類習慣閱讀的自然語言對大模型而言並非最高效的 Token 格式。
-
改用表格與 JSON 格式：將大量的描述性文字轉化為結構化的 Markdown 表格或簡潔的 JSON 鍵值對。這不僅能大幅節省 Token，還能加強模型的邏輯解析能力。
-
使用自定義縮寫與 Token 字典：在特定領域的企業應用中，建立專屬的詞彙對照表，以短代碼代表長參數。
3. 模組化 Prompt 與快取機制（Prompt Caching）
將上下文劃分為靜態層與動態層。
-
靜態前綴複用：將系統提示詞、核心規則、標準範例固定在提示詞的最前端，並善用支援 Prompt Caching 的 API 架構，避免重複計算已讀取的 Token，兼顧成本與回應速度。
-
按需載入（Lazy Loading）：僅在對話觸及特定意圖時，動態調用對應的向量資料庫片段（RAG），而非一次性塞入所有文檔。
4. 精準的 Few-Shot 範例選擇
少樣本提示（Few-Shot）能顯著提升輸出品質，但範例過多會擠壓 Token 空間。
-
質精勝過量多：挑選最具代表性、涵蓋邊界條件（Edge Cases）的 1 到 2 個高質量範例，勝過提供 10 個平庸的範例。
結語與進階學習
上下文工程是從「會用 AI」邁向「精通 AI 系統開發」的關鍵分水嶺。透過科學的資料裁剪、結構化壓縮與快取策略，我們能在不犧牲效能的前提下，實現高效、精準且低成本的 AI 應用落地。
欲系統性掌握 AI 提示詞架構、Agent 工作流程設計及企業級上下文調優技巧，建議在我們 香港AI學院 (AIEduHK.com) 查看並報讀相關的專業 AI 工具教學課程「上下文工程 (Context Engineering) AI 課程」，助您在數位轉型浪潮中搶佔先機。