一句話定義

上下文工程(Context Engineering)是在 AI 執行任務的每一步,挑選並維護模型眼前那批資訊的方法,目標是用最少、最有用的內容換到最好的結果。

30 秒看重點

  • 是什麼:Context Engineering 管的是 AI 這一刻「看得到什麼」,包含指令、工具、查到的資料、對話紀錄和筆記,不只是你打的那句話。
  • 為什麼重要:AI Agent 一跑就是幾十步,資料一路堆積,塞太滿模型會變遲鈍,這個現象叫 context rot。
  • 跟誰相關:做 AI Agent 的工程師、用 Claude Code 這類寫程式工具的人、規劃企業 AI 導入的主管都會碰到。
  • 最常見的誤解:以為上下文視窗越大就不用管理,實際上視窗再大,放錯東西一樣會拖垮表現。
  • 記住這件事就夠了:提示工程在問「這句話怎麼寫」,上下文工程在問「這一步該讓 AI 看到哪些東西」。

Context Engineering 到底是什麼?

Context Engineering 中文叫上下文工程(本站之前也寫過「脈絡工程」),指的是在 AI 推論的每一步,挑選並維護「最適合放進上下文視窗的那一批 token」的整套策略。

這個定義來自 Anthropic 在 2025 年 9 月 29 日發表的工程文章〈Effective context engineering for AI agents〉。文章把它稱為提示工程「自然的下一步」,範圍不只提示詞本身,還包括系統指令、工具、MCP、外部資料和訊息歷史,也就是模型這次能看到的所有東西。

開源專案 12-Factor Agents 說得更直接:LLM 是無狀態的函式(簡單來講就是它什麼都不記得,給什麼就回什麼),所以「Everything is context engineering.」

生活比喻:想像你要外送一份便當給新來的外送員。提示工程是那張訂單備註寫得清不清楚;上下文工程則是外送員手機上同時跳出哪些資訊,地址、樓層、管理室規則、上次送錯的紀錄。資訊太少他會迷路,可是你把整個社區的住戶名冊都塞給他,他反而找不到 B 棟在哪。

為什麼會有 Context Engineering?

上下文工程會出現,是因為 AI 從「一問一答」變成「自己連跑好幾十步」的 AI Agent,光寫好第一句指令已經管不住後面的混亂。

說穿了就是兩個問題。

第一個是 context rot(上下文腐化)。 Anthropic 的官方文件寫得很清楚:token 數量一多,模型的正確率跟回想能力就會下降,所以「放了什麼」跟「有多少空間」一樣重要。Anthropic 的工程文章補充,這個現象在所有模型上都看得到,只是退化的速度不同。

為什麼會這樣?文章的解釋是 Transformer 架構讓每個 token 都要跟其他所有 token 建立關係,n 個 token 就有 n² 組關係要顧。資料越長,模型的「注意力預算」就被攤得越薄。它會一路慢慢變鈍,不會在某個長度突然撞牆。

第二個是 Agent 的資料會自己長出來。 一個會呼叫工具的 Agent,每跑一步就多一段工具回傳結果,可能是一整份網頁、幾百行程式碼、一大串搜尋結果。跑到第 30 步時,真正重要的那條指令早就被埋在一堆舊資料底下了 QQ

所以這個詞會在 2025 年中爆紅。據多個搜尋來源交叉比對,Shopify 執行長 Tobi Lütke 在 2025 年 6 月公開表示他比較喜歡「context engineering」這個說法,大約一週後 Andrej Karpathy 跟進,把它定義成「在上下文視窗裡填入下一步剛好需要的資訊,這門精細的藝術與科學」。

Context Engineering 是怎麼運作的?

上下文工程的運作邏輯只有一句:找出「最小一組、訊號最強的 token」,然後在任務過程中不斷替換它。

這句「smallest possible set of high-signal tokens」是 Anthropic 工程文章的原話。實務上可以拆成三步:

  1. 開工前先放好基本盤:系統指令要寫在「剛好的高度」,不要寫成一堆死板的 if-else 規則,也不要模糊到 AI 只能猜。工具也要精簡,文章的檢驗標準很實在:如果連人類工程師都說不出這個情境該用哪個工具,就別期待 AI 會選對。
  2. 需要時才去拿資料(just-in-time):先別把所有資料一次塞進去,改給 AI 檔案路徑、連結這類「索引」,等它真的需要時再用工具讀進來。Claude Code 就是這樣做的,開場先載入 CLAUDE.md 規範檔,其他檔案等到需要時才用 glob、grep 去找。
  3. 快滿了就整理:任務跑久了,要把用不到的東西清掉或壓縮,後面一節會講三招。

名詞小教室:上下文視窗(Context Window)是 AI 一次能看見的文字總量上限,也就是上下文工程在管理的那塊空間,詳見上下文視窗百科。

長時間任務的三招:壓縮、筆記、分工

Anthropic 在文章裡針對跑很久的任務,提出三種做法:

  • 壓縮(Compaction):對話快滿時,把前面內容摘要成一段重點,再開一個新的視窗繼續。Claude Code 會保留架構決策、還沒解的 bug 和實作細節,丟掉重複的工具輸出,再帶上最近讀過的 5 個檔案接著做。
  • 結構化筆記:讓 AI 自己把進度寫到視窗外的檔案,例如待辦清單或 NOTES.md,下次回來先讀筆記。文章舉了 Claude 玩寶可夢的例子,它記下「過去 1,234 步我都在 1 號道路練等」、皮卡丘升了 8 級離目標 10 級還差多少,上下文重置後讀筆記就能接著玩。
  • 子代理人分工(Sub-agent):主 Agent 負責規劃,把細節任務丟給各自擁有乾淨視窗的子 Agent。子 Agent 可能翻了幾萬個 token,最後只交回 1,000 到 2,000 token 的摘要。

這三招聽起來很像在帶新人(笑),重點都是讓 AI 桌上只擺現在用得到的東西。

Context Engineering 跟 Prompt Engineering 差在哪?

Prompt Engineering 管的是「這一次的指令怎麼寫」,Context Engineering 管的是「整個任務過程中,AI 每一步眼前該擺哪些東西」,前者是後者的一部分。

GitHub 上 9.3k 星的開源教材 Context-Engineering 用了一個很好記的分法:提示工程是「你說了什麼」,上下文工程是「模型看到的其他所有東西」,包括範例、記憶、檢索結果、工具、狀態和流程控制。

比較項目Prompt Engineering 提示工程Context Engineering 上下文工程
管理範圍指令與範例的寫法指令、工具、檢索資料、對話紀錄、記憶
時間尺度單次輸入整個多步驟任務的每一步
典型問題「這句要怎麼寫才不會被誤解?」「第 30 步時哪些舊資料該丟掉?」
常用手法講清楚、給範例、標籤分區需要時才載入、壓縮、寫筆記、子代理人分工
主要使用者所有用 AI 的人做 AI Agent 的工程師
生活比喻把訂單備註寫清楚決定外送員手機上同時跳出哪些資訊

從這張表可以看出來,兩者是大圈套小圈,上下文工程沒有取代提示工程,而是把它包進去。

我的判斷很簡單:你如果只是在對話框裡問 AI 問題,把提示工程練好就夠;你如果在串 API 做會自己跑很多步的 Agent,就一定要往上下文工程走。

你會在哪些 AI 工具看到 Context Engineering?

只要是會「自動幫你決定 AI 該看什麼」的功能,背後都是上下文工程。

  • Claude Code:開場讀 CLAUDE.md,檔案用到才搜,對話太長會自動壓縮,這三件事剛好對應前面講的三種手法。
  • Claude 的記憶工具(memory tool):Anthropic 在 Claude Developer Platform 推出的檔案型記憶功能,讓 Agent 把筆記存在視窗外、下次再讀回來,就是前面講的結構化筆記。
  • Gemini 的 Skills:Google 正把 Gems 換成可疊加的 Skills,等於把一包包固定指令組合起來交給 AI,決定它開工時桌上擺什麼。
  • RAG 客服系統:先去資料庫撈出相關段落再交給 AI 回答,本身就是「挑資料放進上下文」,詳見 RAG 百科。

如果你是工程師,Claude API 已經把部分做法做成功能:伺服器端壓縮(compaction)目前在 Claude 4.6 以後的模型開放 beta;context editing 的「工具結果清除」預設在輸入超過 10 萬 token 時啟動,只保留最近 3 組工具呼叫結果。

學 Context Engineering 最常見的 3 個誤解

上下文工程最常見的誤解,是以為它只是「把提示詞換個高級名字」,或以為視窗夠大就不用管。

  1. 誤解一:上下文視窗變大,就不需要上下文工程 — 真相是 Anthropic 文章明說,光靠更大的視窗解決不了上下文污染和資料不相關的問題。100 萬 token 只代表倉庫變大,倉庫亂一樣找不到東西。
  2. 誤解二:資料給越多,AI 越懂我 — 真相是 context rot 會讓資訊越多、表現越鈍。Anthropic 把上下文形容成「邊際效益遞減的有限資源」,每多一個 token 都在花注意力預算。
  3. 誤解三:精簡就是寫越短越好 — 真相是 Anthropic 特別強調「最小」不等於「最短」。官方建議先用最強的模型配最精簡的提示測試,看它在哪裡失敗,再一條條補指令跟範例。

老實講,第一點最多人中招。廠商每次發表都在比誰的視窗大 畢竟數字大比較好賣,可是真的在做 Agent 的人更在意的是:塞進去的東西有沒有用。

想多了解 Context Engineering,從哪開始?

沒有技術背景的話:下次跟 AI 長聊到它開始答非所問時,試著開一個新對話,只貼上「目前結論 + 還沒解決的問題」再繼續。你等於親手做了一次壓縮,通常會發現它突然變聰明了。

有技術背景的話:先讀 Anthropic 的〈Effective context engineering for AI agents〉,再讀同團隊 2025 年 11 月 26 日的〈Effective harnesses for long-running agents〉。後者把跨視窗的 Agent 比喻成輪班工程師,每個新人都不記得上一班發生什麼事,要靠進度檔、功能清單和 git 紀錄交接。


常見問題 FAQ

Context Engineering 跟 AI 有什麼關係?

Context Engineering 是讓大型語言模型在多步驟任務中維持表現的方法。模型本身不記得任何事,每一步的輸出品質都取決於當下看到的資訊,上下文工程就是負責挑選、整理與替換這些資訊,讓 AI 不被無關資料干擾。

為什麼 Context Engineering 突然這麼紅?

因為 AI Agent 開始普及。2025 年 6 月 Shopify 執行長 Tobi Lütke 與 Andrej Karpathy 先後公開推崇這個說法,同年 9 月 Anthropic 發表工程文章系統化整理做法,加上 context rot 現象讓大家發現,視窗變大並不能取代資料管理。

我不是工程師也需要懂 Context Engineering 嗎?

需要懂一點觀念就好。如果你常跟 AI 長時間對話,知道對話太長會讓 AI 變遲鈍,懂得適時開新對話、只帶重點過去,或在專案功能裡只放真正相關的檔案,就能明顯改善 AI 的回答品質,完全不用寫程式。

Context Engineering 的中文翻譯有沒有統一?

沒有統一。中文圈有「上下文工程」與「脈絡工程」等寫法,本站早期文章也用過後者。本站百科採用「上下文工程」,跟「上下文視窗」的譯法一致,兩者指的是同一件事。

學會 Context Engineering 之後,下一個該學什麼?

建議先補上下文視窗,了解 AI 一次能看多少內容;再學 RAG,知道 AI 怎麼從外部資料庫挑資料;最後看 AI Agent 與工具呼叫,因為上下文工程最常派上用場的地方,就是會自己連跑很多步的 Agent。


延伸閱讀


參考來源

  1. Effective context engineering for AI agents|Anthropic Engineering — 定義、context rot 與 n²、just-in-time 檢索、長任務三招。
  2. Effective harnesses for long-running agents|Anthropic Engineering — 輪班工程師比喻與交接做法。
  3. Context windows|Claude Platform Docs — context rot 說明與伺服器端壓縮。
  4. Context editing|Claude Platform Docs — 工具結果清除的預設值。
  5. Factor 3: Own your context window|12-Factor Agents(GitHub) — LLM 是無狀態函式的說法。
  6. Context-Engineering|davidkimai(GitHub) — Karpathy 定義與兩種工程的分法。

查證限制:Tobi Lütke 與 Karpathy 的原始貼文在撰寫環境無法開啟,發文時間以多個搜尋結果交叉比對一致後才寫入,未列入參考來源。Chroma 的 context rot 研究報告也讀不到原文,本篇沒有引用其數字。


整理一下重點:Context Engineering 說白了就是幫 AI 整理桌面,每一步只留下真的用得到的資料,視窗再大,桌面亂一樣做不好事。

希望這一篇有讓你對上下文工程有比較具體的理解哩~如果發現事實錯誤、定義不準、或翻譯卡卡的,歡迎透過聯絡頁指正,看到我們會盡快修。

我們下篇文章見囉~

本條目由 Array 報報 AI 編輯部根據上方「參考來源」整理,文末已揭露 AI 生成 + 公開資料引用。