為什麼長時間聊天會變笨(以及如何不用重新開始就解決這個問題)

你知道那種感覺。原本俐落的對話到了第四十則訊息,現在給出的答案卻忽略了你一半的指示、與它十則訊息前說過的內容相矛盾,或退回到你一小時前才修正過的通用預設值。沒有任何東西「壞掉」。模型沒有變差。改變的是它在回應你之前必須閱讀的文字堆積量。

長對話中實際發生了什麼

AI 模型給你的每個回覆,都是透過讀取截至當下的整段對話來生成的 - 你的原始指示、每個後續要求、每次修正、每個岔題,以及每一句「其實,你也可以……嗎?」 - 然後預測接下來應該出現什麼。整份逐字記錄稱為上下文視窗,而且對話越長,它不會變小。它會逐則訊息變大,直到承載的文字量遠超過最初的內容。

在對話初期,你的指示幾乎就是全部的上下文。模型的工作很簡單:閱讀一份清楚的簡報並遵循它。到了第三十則訊息,你最初的簡報只占更長文件的一小部分,被數十次針對特定編輯、特定數字和特定一次性要求的交流掩埋。模型在技術上仍然「擁有」上下文中的原始指示 - 但它們現在已被稀釋,必須與大量更新、具體且經常相互矛盾的文字爭奪注意力。

這就是為什麼長對話不會一次性失效。它們會逐漸退化。模型開始對近期訊息賦予比早期訊息更高的權重(這通常是正確的做法 - 近期性通常代表相關性),但當你的基礎規則也存在於同一條逐漸老化的討論串中時,「近期」與「重要」就會混淆。五分鐘前隨口說的一句話,可能僅僅因為它在逐字記錄中的位置,就凌駕於一小時前設定標準的指示之上。

還有第二種更不明顯的代價:模型每次都必須從更混亂的文件中重新推導你的意圖。它不再是乾淨地讀取「你是一位資深成長策略師,總是將輸出整理成 X,並且總是避免 Y」,而是解析同一個想法,只是這個想法已經經過改述、你在對話中途允許的例外,以及只適用於某項特定任務的編輯。需要協調的文字越多,模型就越有可能將內容平均化、使用保守措辭,或悄悄丟掉某項從未再次重複的限制。

人們會採用的兩種修正方式 - 以及為什麼兩者都會造成資訊損失

修正一:向上捲動並重新貼上原始指示

這是最常見的補救方法。你捲回第一則訊息,複製最初的簡介,然後在第四十則訊息中貼回來,再加上一句類似「只是提醒一下,請遵守這些內容。」它大約能維持五個回覆。接著同樣的偏移又會發生,因為你其實沒有改變上下文視窗的運作方式 - 你只是在已經臃腫的逐字稿中,再加入一份指令副本。聊天現在變得更長,訊號雜訊比沒有改善,而你在專案剩餘期間還得不時重複這件事。

修正二:開一個全新的聊天,重新輸入所有內容

另一個常見做法更加徹底:放棄這個對話串,重新開始。這確實能解決稀釋問題 - 新聊天的內容脈絡乾淨且簡短,因此指令能再次被清楚地讀取。但它也會連同雜訊一起丟掉有價值的內容:讓 AI 在這個特定專案中表現良好的實用任務脈絡。你提供給它的範例、已經帶它處理過的邊界案例、你們已經共同做出的決定 - 這一切都消失了。你得從零開始重建,而且還得依賴自己的記憶(或翻找舊訊息),重新拼湊出可能從未儲存在該聊天之外的指令。

這兩種修正方式都只是在處理症狀。兩者都沒有解決根本問題:你的角色、格式和標準除了存在於不斷增長的來回對話堆中,別無所在。

為長期專案打造
Sofia - 成長行銷策略師 AI Skill
Sofia - 成長行銷策略師 AI Skill
$29此 Skill 相較於 $250成長顧問/人力資源

一份精簡、可重複使用的技能檔案,鎖定資深成長策略師的角色、輸出格式與標準 - 讓新的聊天一開始就清晰明確,而不是從空白頁開始。

查看 Sofia - 成長行銷策略師 →

更好的解決方法:將訊號與雜訊分開

真正的解決方案不是捲動技巧或重新開始 - 而是改變指令所在位置的結構。與其讓你的角色、格式和標準放在不斷增長的對話串第一則訊息中,不如將它們放進一個小型、獨立的檔案:技能。每當需要時,將該檔案重新載入新的聊天或 Claude/ChatGPT 專案中,接下來的對話就能純粹聚焦於手上的任務。

可以把它想成將一段過去糾纏在一起的對話拆成兩個層次:

  • 訊號 - 絕不應改變或被稀釋的內容:AI 代表誰行事、輸出應如何格式化,以及始終適用的標準與限制。這些內容存在於聊天之外的技能檔案中。
  • 雜訊 - 這項任務、這一週、這次來回對話中特有的內容:「縮短一點」、「使用這位客戶的數據」、「不,是另一個版本。」這些內容存在於聊天中,而且變長也沒關係,因為它不會與你的核心指令爭奪模型的注意力。

當這兩個層次分開後,長期專案就不再是一個持續衰退的超長聊天,而會變成一連串乾淨的聊天;每個聊天都從 Skill 檔案載入完全相同、明確銳利的指示集,也都能自由地針對實際工作持續進行,而不必再次爭論「什麼才算好」。你可以獲得修正二的新鮮感(新的聊天、乾淨的上下文),卻不必承擔修正二的成本(憑記憶重新輸入所有內容),因為這些指示從一開始就沒有被困在舊對話串中。

這也解決了兩種不當修正方法都無法觸及的問題:跨工作階段的一致性。如果你的標準只存在腦中,而每次重新輸入時都略有不同,品質不只會在單一聊天中漂移,也會在不同專案之間漂移。Skill 檔案每次都是同一份檔案 - 只需版本化一次,在學到新內容時加以改進,而每個未來的聊天都會立即繼承這項改進。

不會偏移的衡量工作
Rafa - 行銷分析專家 AI Skill
Rafa - 行銷分析專家 AI Skill
$29此 Skill 相較於 $200分析顧問/人力資源

分析類對話串通常很長 - 儀表板、事件結構、報告週期。Rafa 將分析標準固定在 Skill 檔案中,確保專案第六週仍遵循與第一天相同的嚴謹程度。

查看 Rafa - 行銷分析專家 →

實際運作方式

假設你正在進行一項持續數週的合作 - 例如成長稽核、持續進行的分析建置,或與客戶合作的顧問專案。與其使用一個逐漸失去重點的超長聊天,不如採用以下模式:

  • 你的角色/格式/標準都放在 Skill 檔案中(一份簡短、有結構的文件 - 就像你會貼上的系統 prompt,或 Claude/ChatGPT 專案指示)。
  • 每個工作階段,或專案的每個新階段,都會在載入該 Skill 檔案的新聊天中開始。
  • 聊天本身可以依實際任務需求變得多麼冗長、混亂都沒關係,因為基礎指示不會跟著同一份逐字稿一起累積,也不會被較新的文字蓋過。
  • 當你學到某件應套用於未來每次工作階段的事項 - 例如格式偏好或你總得反覆說明的限制 - 你只需編輯一次 Skill 檔案,而不是之後每次聊天都重新輸入。

整體而言,長期專案中的品質會維持穩定,而不是逐漸下滑。你不必對抗上下文視窗;你只是沒有要求它去做一件它本來就不擅長的事,也就是充當你永久保存固定指示的記憶。

適用於持續數週、而非單一對話串的合作
Thomas - 商業顧問 AI Skill
Thomas - 商業顧問 AI Skill
$29此 Skill 相較於 $300策略顧問/hr

接受麥肯錫訓練的結構化思考,每次工作階段都重新載入 - 因此長期顧問合作不會承襲某個過度負載對話串的偏移。

查看 Thomas - 商業顧問 →
免費工具 · 個人或團隊模式
查看你的數字:AI Token 成本計算器

輸入你(或你的團隊)實際使用 AI 對話的方式,取得重新輸入 prompt 與使用持久 Skill 檔案之間,實際每月 Token 浪費量和費用的估算。不用註冊、不用提供電子郵件 - 只套用這篇文章的計算方式到你的數字。

試用計算器 →

常見問題

為什麼 AI 似乎會「忘記」我在同一個對話中較早提供的指示?

它並沒有真的忘記 - 文字仍然存在於上下文視窗中。但隨著對話持續增長,你的原始指示在模型必須權衡的全部內容中所占的比例越來越小,而較新的訊息往往會對回覆產生更大影響。結果看起來像是忘記了,但實際上是被稀釋了。

開啟新對話不是最簡單的解決方法嗎?

它解決了稀釋問題,卻帶來另一個問題:你會失去讓 AI 對這個特定專案發揮作用的任務情境,而且必須記住(或翻找)原始指示,再次把它們打出來。Skill 檔案讓你享有新對話的乾淨情境優勢,卻不必付出記憶成本,因為你的固定指示完全存在於對話之外。

Skill 檔案和更長、更詳細的 prompt 有什麼不同?

更長的 prompt 仍然存在於對話中,也會和其他訊息一樣逐漸失效 - 它同樣會在冗長的對話串中受到稀釋。Skill 檔案則獨立於任何單一對話之外:你會在每次開啟新對話或專案時重新載入它,因此它不會與近期訊息爭奪模型的注意力,也不會累積特定任務的雜訊。

總結:

長對話變笨,並不是因為模型退化了 - 而是因為你的固定指示被埋在越堆越多、針對特定任務的來回訊息底下。把 ROLE/FORMAT/STANDARDS 放在精簡、可重複使用的 Skill 檔案中 - 例如 SofiaRafaThomas - 每次開啟新對話時重新載入,讓對話只承載真正需要的雜訊。

~/get-started

實用的 Skills。不說空話。

瀏覽商店中的每個技能、prompt 套件和 agent。

瀏覽所有技能 →或試試免費工具