Context Window

上下文視窗

01你是不是遇到這個 / THE SYMPTOM

我把一整本長文檔丟給 AI，它要嘛報錯說太長、要嘛回答時好像「忘了」前面講過的內容。對話一長它也開始前後兜不起來。我不知道這個「一次能塞多少進去」的上限叫什麼。

↑ 如果你點頭了，你要的關鍵字就是 Context Window。

02這是什麼 / DEFINITION

模型一次能「同時看見」的文字總量上限（含你的提示、貼進去的資料、對話歷史和它的回答），通常以 token 計算。超過上限的內容模型就看不到。

03什麼時候用 / WHEN TO USE

在處理長文件、長對話、或要把大量資料一次餵給模型時，用來判斷「會不會塞爆」、該不該切片或改用 RAG、以及為什麼模型像是「失憶」。

04怎麼跟 AI 說 / HOW TO ASK

直接複製這句、貼進 Claude Code / Cursor / Copilot / ChatGPT：

這個模型的 context window 是 N tokens，我的文件超過了。幫我改成把文件分段、每段各自處理再彙整結果，避免一次超過上下文上限。

05常見坑 / WATCH OUT

⚠ 別把 context window 跟「模型的記憶力」混為一談——它沒有跨對話的長期記憶，超出視窗或開新對話就忘了。也別把「視窗很大」當成「塞越多越好」，內容太多反而會稀釋重點、變慢、變貴。

06相關的詞 / RELATED

我想做一個 AI 問答機器人，要它根據我自己的文件（公司手冊、PDF、客服資料）來回答，而不是它亂編。但我不知道怎麼讓 AI「讀我的資料」，總不能每次都把整份文件貼進去。

我希望 AI 全程都維持某個角色、口氣和規則（例如「你是繁中客服、不准講競品、回答要簡短」），但我每次對話都要重貼一遍很煩，而且講到後面它又跑掉。不知道這種「設定好就一直生效」的指令放哪。