解析上下文視窗:為什麼你的 AI 會在對話進行到一半時忘記事情(以及真正能解決問題的方法)

你的 AI 不是因為困惑而忘記事情 - 而是因為沒有空間了。 每個模型都有固定的「上下文視窗」,也就是它一次能容納並進行推理的文字總量。視窗一旦填滿,就必須有所取捨:較早的訊息會被較新的訊息擠到一旁、掩埋在其下,或完全捨棄。

最後更新:2026 年 7 月 · KissMySkills 團隊

上下文視窗究竟是什麼

每次你向 Claude、ChatGPT 或 Gemini 傳送訊息時,模型看到的不只是那一則訊息。它會看到截至目前的完整對話 - 你輸入的所有內容、它回覆的所有內容,以及你附加的任何文件、圖片或檔案 - 全部被打包成一個輸入。整個套件就是「上下文」。「視窗」則是模型在單次處理中能處理的上下文總量上限。

上下文視窗以 token 計算,token 是文字的小片段 - 大約每個單字的 ¾。擁有 100,000 token 視窗的模型,在達到上限前,大約可以容納 75,000 個由對話、文件和指示組成的單字。這聽起來很多,直到你想起一份 40 頁的 PDF、一份試算表匯出檔,或一段冗長的會議逐字稿,單獨就可能占用數萬個 token - 而且你甚至還沒提出真正的問題。

重要的是要理解:上下文視窗不是模型用來查找資料的資料庫。它更接近短期記憶。對模型而言,完全不存在於該視窗之外的內容,而視窗內的所有內容都在競爭模型有限的注意力。

為什麼 AI 感覺像是在「忘記」

人們會把這種情況描述成 AI「忘記」長篇聊天的開頭,或失去對已上傳文件細節的掌握。這樣描述你所觀察到的現象算是合理,但實際運作並不完全如此。這裡同時發生了兩件不同的事,而且兩者會相互加劇。

1. 漸進遺忘:稀釋

隨著對話不斷延長,較早的內容不會消失 - 它只是占模型正在查看的內容中越來越小的比例。相較於之後所說的一切,早期的指示、決定或事實所占的「權重」按比例降低。模型在技術上仍然能存取那些內容,但必須更努力地在塞滿視窗的所有資訊中找到它們並判斷優先順序;實際上,長篇對話的品質會明顯下降:模型會與先前的回答矛盾、重複詢問你已經回答過的問題,或失去十輪對話前那項細緻指示的脈絡。

2. 徹底遺忘:截斷

當對話實際超過視窗的硬性上限時,就必須刪除某些內容,為新的輸入騰出空間。大多數聊天產品會以靜默捨棄或摘要最早幾輪對話的方式處理。到了這個階段,內容不只是被稀釋了 - 而是真的消失了。模型確實再也看不到它,不論它原本有多重要。

這兩種情況嚴格來說都不算是錯誤。這是固定大小的視窗被填滿所造成的物理結果。但這也表示,兩個常見習慣 - 貼上一份超大型文件,以及讓聊天持續很久並且漫無目的地延伸 - 是讓輸出品質快速下降的兩種方式,而且你往往不會察覺答案為什麼變差。

「直接上傳文件」的隱藏成本

上傳大型檔案感覺像是免費的。其實不是。一份大型合約、一篇研究報告或一整套資料集,可能在模型處理你實際要求的任何內容之前,就消耗可用視窗中的很大一部分空間。假設你的模型有 150,000 個 token 的視窗,而你的文件佔用了其中 90,000 個 token,那麼只剩下 60,000 個 token 可供系統指示、對話歷史,以及模型自身的推理和回應使用 - 而這項任務可能確實需要綜合整份文件的內容。

這正是繁重分析工作最容易讓人受挫的情況:充滿表格的行銷報告、財務模型、冗長的研究資料。輸入內容越大、越混亂,AI 留給真正深入思考你要求它如何處理這些輸入的空間就越少。

為文件密集型工作打造
Rafa - 行銷分析專家 AI Skill
Rafa - 行銷分析專家 AI Skill
$29這項 Skill 對比 $200分析顧問/人力資源

Rafa 會將 Claude 轉變為專門解決這個問題的資深行銷分析專家 - 解析密集的報告、儀表板和行銷活動資料,同時不讓固定指示侵佔文件所需的空間。

查看 Rafa - 行銷分析專家 →

為什麼冗長、漫無目的的聊天也會讓情況變糟

另一個陷阱是馬拉松式聊天 - 那個你因為「所有上下文都已經在裡面了」而始終不關閉的對話串。每一次來回、每一段放棄的岔題、每一句「其實,我們換個方式試試看」都會留在視窗中,佔用空間並稀釋真正重要的內容。到了第五十則訊息,模型同時承載著一堆只有部分相關的歷史內容,以及你目前真正的需求 - 卻大致給予它們同等的權重。

解決方法不是「永遠不要進行長時間對話」。而是要有意識地了解視窗中究竟佔用了哪些空間,並確保你希望模型高度重視的內容 - 目前的任務、目前的文件 - 不會被那些已經不再重要的內容淹沒。

技能檔案的作用

這就是技能檔案(或系統提示、客製化指示、專案指示 - 取決於平台而有不同名稱,但概念相同)存在的實際原因。技能檔案會將兩種截然不同、通常會混雜在上下文視窗中的內容分開:

  • 固定指示 - AI 應該扮演的角色、應套用的標準,以及輸出的格式。這些內容不會因任務而改變。
  • 任務內容 - 你正在分析的文件、你正在處理的資料,以及針對實際問題展開的實際對話。這些內容每次都會改變。

當你直接在聊天中貼上一大段、自由撰寫的說明,例如「要像資深分析師一樣行事、遵循這個結構、使用這種語氣、始終執行 X 並且絕不執行 Y」,這段說明就會待在視窗中,與你的文件和問題並列、爭奪空間與注意力 - 每一次、每個對話都是如此。Skill 檔案會將同一套指示以精簡的形式載入一次,成為模型所擔任的明確角色。它的文字比一般來回解釋更加精煉,也不像臨時指示那樣,會在對話中途反覆爭論或重新解釋。

結果很直接:更多視窗空間能留給真正會變動的內容 - 你上傳的報告、你正在詢問的資料,以及本次工作階段中的二十個後續問題。品質能維持更久,因為模型不必在「記住自己應該如何行動」與「理解你此刻真正提出的問題」之間分散有限的注意力。

最適合長時間、高風險的討論串
Ryan - Chief of Staff AI Skill
Ryan - Chief of Staff AI Skill
$29這項 Skill 對比 $150,000聘請 Chief of Staff

Ryan 將 Claude 設定為適合持續進行、高度依賴上下文的主管工作 - 董事會資料包、簡報、決策備忘錄 - 在對話逐漸變長時,精簡的固定角色設定會變得更加重要。

查看 Ryan - Chief of Staff →

真正有幫助的實用習慣

  • 為新任務開啟新的討論串。 新的對話代表乾淨的視窗 - 沒有被稀釋的歷史內容與你目前的要求爭奪注意力。
  • 將固定指示分開並保持精簡。 載入一次的 Skill 檔案,勝過在每次聊天中重新解釋你的期望。
  • 精簡你上傳的內容。 如果你只需要第 3 和第 4 章,就不要上傳整本書 - 每一頁不必要的內容,都是模型無法用來回答你問題的 tokens。
  • 繼續之前先摘要。 在長期進行的專案中,定期要求模型(或由你自己)將目前為止的關鍵決策濃縮成簡短回顧,然後使用該回顧加上你的 Skill 檔案開始新的討論串。
  • 留意警訊。 重複提問、與先前答案矛盾,或對具體要求含糊其辭,通常是上下文視窗過於擁擠或遭到截斷的症狀 - 而不是 prompt 不夠聰明的問題。

總結:

每個 AI 模型都有固定的上下文視窗,一旦填滿,較早的內容就會被淡化或捨棄 - 這就是你注意到的「遺忘」,而不是混淆。上傳大型文件和冗長的聊天記錄,都會佔用同一個有限空間。像 Rafa(行銷分析專家)Ryan(幕僚長) 一樣,讓固定指示保持精簡並與其他內容分開,就能為真正需要處理的文件和任務內容騰出空間 - 讓回答更長時間維持敏銳。

免費工具 · 個人或團隊模式
查看你的數字:AI Token 成本計算器

輸入你(或你的團隊)實際使用 AI 聊天的方式,即可取得重新輸入 prompt 與使用持續性技能檔案之間,每月浪費 token 數量及金額的實際估算。不需註冊,不需電子郵件 - 只要將這篇文章的計算方式套用到你的數據即可。

試用計算器 →

常見問題

究竟哪些內容會計入上下文視窗?

目前對話中的所有內容:你的訊息、模型的回覆、任何系統 prompt 或技能檔案指示,以及從任何附加檔案或文件中擷取的完整文字。這些內容都會一起以 token 計算,納入同一個共用上限。

開始新的聊天真的能解決問題嗎?

是的,就清空視窗這一點而言確實如此 - 不會有被淡化的歷史內容,也不必擔心對話較早部分遭到截斷。取捨在於,你會失去舊對話中未帶入新對話的上下文,因此與其從零開始,不如將簡短摘要和技能檔案一併帶入新聊天。

為什麼不直接使用上下文視窗更大的模型?

更大的視窗有所幫助,但無法消除背後的運作機制 - 即使規模擴大,內容仍會被淡化並需要排序,而龐大的輸入無論上限是 100,000 還是 1,000,000,都仍會實際消耗 token。更大的視窗能提供更多空間;但不會讓模型自動知道該優先處理其中哪些內容。

技能檔案和直接在聊天中撰寫良好指示有什麼不同?

兩者都可行,但直接輸入聊天中的指示,會和其他所有內容擠在同一個擁擠視窗中,隨著對話變長,這些指示往往會被重新陳述、互相矛盾或逐漸淡化。技能檔案會以明確定義的角色載入一次,內容精簡且與任務內容分開,因此不會和你實際處理的文件或資料爭奪空間。

相關內容: 最適合高階主管與幕僚長的 Claude 技能 · 最佳 Claude 技能市集(比較)

~/get-started

實用的 Skills。不說空話。

瀏覽商店中的每個技能、prompt 套件和 agent。

瀏覽所有技能 →或試試免費工具