Почему длинные чаты становятся глупее (и как это исправить, не начиная всё заново)

Вам знакомо это ощущение. На сороковом сообщении чата, который начинался чётко, ответы вдруг игнорируют половину ваших инструкций, противоречат тому, что модель сказала десять сообщений назад, или возвращаются к стандартному шаблону, который вы исправили час назад. Ничего не «сломалось». Модель не стала хуже. Изменилось то, что ей теперь приходится прочитать перед ответом: вся накопившаяся масса текста.

Что на самом деле происходит внутри длинного чата

Каждый ответ AI-модели генерируется путём прочтения всего разговора до этого момента - ваших исходных инструкций, каждого уточнения, каждой правки, каждого отступления, каждого «на самом деле, а можешь ещё...» - и предсказания того, что должно последовать дальше. Вся эта стенограмма называется контекстным окном, и по мере роста разговора оно не становится меньше. Оно увеличивается от сообщения к сообщению, пока не начинает содержать гораздо больше текста, чем было вначале.

В начале чата ваши инструкции составляют почти весь контекст. Задача модели проста: прочитать чёткое техническое задание и следовать ему. К тридцатому сообщению исходное задание становится лишь небольшой частью гораздо более длинного документа, погребённой под десятками обменов сообщениями о конкретных правках, конкретных цифрах и разовых запросах. Технически модель всё ещё «имеет» ваши исходные инструкции в своём контексте, но теперь они разбавлены и конкурируют за внимание с гораздо большим объёмом более свежего, более конкретного, а часто и противоречащего текста.

Вот почему длинные чаты не дают сбой сразу. Они постепенно деградируют. Модель начинает сильнее взвешивать недавние сообщения, чем ранние (что часто правильно - недавность обычно указывает на актуальность), но когда ваши основополагающие правила находятся в той же стареющей ветке, «недавнее» и «важное» начинают смешиваться. Брошенный вскользь комментарий пятиминутной давности может оказаться важнее инструкции, задающей стандарты и написанной час назад, просто из-за его положения в стенограмме.

Есть и вторая, менее заметная цена: модели приходится заново выводить ваше намерение из более запутанного документа каждый раз, когда она отвечает. Вместо того чтобы воспринимать фразу «вы - старший стратег по развитию, который всегда структурирует ответ как X и всегда избегает Y» как чёткую инструкцию, она разбирает ту же идею, пропущенную через перефразирования, исключения, которые вы добавили по ходу разговора, и правки, относившиеся только к одной конкретной задаче. Чем больше текста нужно сопоставить, тем выше вероятность, что модель усреднит формулировки, начнёт перестраховываться или незаметно отбросит ограничение, которое больше не повторялось.

Два решения, к которым обычно прибегают, - и почему оба приводят к потере информации

Первое решение: прокрутить вверх и повторно вставить исходные инструкции

Это самый распространённый временный выход. Вы возвращаетесь к первому сообщению, копируете исходный бриф и вставляете его снова на сороковом сообщении с чем-то вроде «просто напоминаю, пожалуйста, придерживайся этого». Это работает ещё примерно пять ответов. Затем происходит то же самое отклонение, потому что вы на самом деле ничего не изменили в работе контекстного окна - вы лишь добавили ещё одну копию своих инструкций в уже раздутую стенограмму. Чат стал ещё длиннее, соотношение сигнала и шума не улучшилось, и вам приходится периодически делать это до конца проекта.

Решение два: начните совершенно новый чат и перепишите всё заново

Другой распространённый вариант более радикален: оставить ветку и начать заново. Это действительно решает проблему размывания - новый чат имеет чистый, короткий контекст, поэтому инструкции снова читаются ясно. Но вместе с шумом вы теряете кое-что ценное: полезный контекст, связанный с конкретной задачей, который помогал AI хорошо работать именно над этим проектом. Примеры, которые вы ему приводили, нестандартные случаи, которые вы уже вместе разбирали, решения, которые вы уже приняли, - всё это исчезает. Вы начинаете с нуля и вдобавок полагаетесь на свою память (или судорожно просматриваете старые сообщения), чтобы восстановить инструкции, которые, возможно, нигде не сохранили за пределами этого чата.

Оба решения устраняют симптом. Но ни одно не исправляет основную проблему: ваши РОЛЬ, ФОРМАТ и СТАНДАРТЫ нигде не существуют, кроме постоянно растущей груды сообщений туда и обратно.

Создано для долгосрочных проектов
AI Skill Sofia - специалист по маркетинговой стратегии роста
AI Skill Sofia - специалист по маркетинговой стратегии роста
$29этот Skill против $250консультант по маркетингу роста/HR

Компактный многоразовый файл Skill, который фиксирует роль, формат вывода и стандарты старшего стратега по маркетингу роста, чтобы новый чат начинался чётко, а не с чистого листа.

Посмотреть Sofia - специалиста по маркетинговой стратегии роста →

Лучшее решение: отделите сигнал от шума

Настоящее решение - не в прокрутке или новом начале, а в структурном изменении места хранения ваших инструкций. Вместо того чтобы ваши РОЛЬ, ФОРМАТ и СТАНДАРТЫ находились внутри первого сообщения постоянно растущей ветки, они хранятся в небольшом отдельном файле: Skill. Вы загружаете этот файл заново в новый чат или проект Claude/ChatGPT, когда он вам нужен, и последующий разговор остаётся полностью сосредоточенным на текущей задаче.

Представьте, что вы разделяете разговор на два слоя, которые раньше были неразрывно связаны:

  • Сигнал - то, что никогда не должно меняться и размываться: в чьём качестве действует AI, как именно он должен форматировать вывод, какие стандарты и ограничения всегда применяются. Это находится в файле Skill, за пределами чата.
  • Шум - всё, что относится именно к этой задаче, этой неделе, этой конкретной переписке: «сделай короче», «используй цифры этого клиента», «нет, другую версию». Это остаётся в чате, и ничего страшного, если он разрастается, потому что это не конкурирует за внимание модели с вашими основными инструкциями.

Когда эти два слоя разделены, длинный проект перестаёт быть одним длинным, постепенно угасающим чатом. Он превращается в серию чистых чатов, каждый из которых начинается с точно того же чёткого набора инструкций, загруженного из файла Skill, и может быть длинным только из-за самой работы, не заставляя вас снова и снова обсуждать, что значит «хорошо». Вы получаете свежесть второго исправления (новый чат, чистый контекст) без его цены (повторного ввода всего по памяти), потому что инструкции с самого начала не были заперты в старой ветке.

Это также решает проблему, которую не устраняет ни одно из неудачных исправлений: согласованность между сессиями. Если ваши стандарты хранятся у вас в голове и каждый раз заново формулируются немного по-разному, качество меняется от проекта к проекту, а не только в рамках одного чата. Файл Skill каждый раз один и тот же - достаточно один раз создать его версию, уточнять, когда вы узнаёте что-то новое, и каждый будущий чат сразу унаследует улучшение.

Измерения без потери качества
AI Skill Rafa - специалиста по маркетинговой аналитике
AI Skill Rafa - специалиста по маркетинговой аналитике
$29этот Skill против $200консультант по аналитике/hr

Аналитические ветки становятся длинными - дашборды, схемы событий, регулярность отчётности. Rafa сохраняет аналитические стандарты неизменными в файле Skill, поэтому на шестой неделе проекта сохраняется та же строгость, что и в первый день.

Посмотреть профиль Rafa - специалиста по маркетинговой аналитике →

Как это выглядит на практике

Представьте, что вы ведёте многонедельный проект - аудит роста, постоянное развитие аналитики или консалтинговый проект с клиентом. Вместо одного марафонского чата, который постепенно теряет нить, всё выглядит так:

  • Ваши РОЛЬ/ФОРМАТ/СТАНДАРТЫ хранятся в файле Skill (коротком структурированном документе - таком, который вы бы вставили в системный prompt или в инструкцию проекта Claude/ChatGPT).
  • Каждая рабочая сессия или каждый новый этап проекта начинается в новом чате с загруженным файлом Skill.
  • Самому чату можно быть настолько длинным и запутанным, насколько требует реальная задача, потому что основополагающие инструкции не находятся в той же расшифровке и не вытесняются более свежим текстом.
  • Когда вы узнаёте что-то, что должно применяться в каждой будущей сессии, - например, предпочтение в форматировании или ограничение, которое вам постоянно приходится повторять, - вы один раз редактируете файл Skill, а не каждый последующий чат.

В итоге качество остаётся стабильным на протяжении долгого проекта, а не снижается по наклонной. Вам не приходится бороться с контекстным окном: вы просто не просите его выполнять задачу, для которой оно никогда не было хорошо приспособлено, - быть вашей постоянной памятью для неизменных инструкций.

Для задач, которые длятся неделями, а не сводятся к одной ветке
Thomas - Skill AI для бизнес-консультанта
Thomas - Skill AI для бизнес-консультанта
$29этот Skill против $300стратегический консультант по персоналу/hr

Структурированное мышление по методике McKinsey, загружаемое заново в каждую сессию, - поэтому длительный консалтинговый проект не наследует отклонения одной перегруженной ветки чата.

Посмотреть Thomas - консультант по бизнесу →
Бесплатный инструмент · режим для одного пользователя или команды
Узнайте свою цифру: калькулятор стоимости токенов AI

Укажите, как вы (или ваша команда) на самом деле используете чаты с AI, и получите реальную ежемесячную оценку напрасно расходуемых токенов и затрат в долларах на повторное составление prompt по сравнению с постоянным файлом Skill. Без регистрации и электронной почты - только расчёт по этой публикации на основе ваших данных.

Попробуйте калькулятор →

Часто задаваемые вопросы

Почему кажется, что AI «забывает» инструкции, которые я дал ему ранее в том же чате?

Он не забыл это буквально, - текст всё ещё находится в контекстном окне. Но по мере роста разговора ваши исходные инструкции занимают всё меньшую долю всего, что приходится учитывать модели, а более свежие сообщения, как правило, сильнее влияют на ответ. Результат выглядит как забывание, но на самом деле это размывание.

Разве начать новый чат не самое простое решение?

Это решает проблему размывания, но создаёт новую: вы теряете контекст конкретной задачи, который сделал AI полезным именно для этого проекта, и вам приходится помнить (или искать) исходные инструкции, чтобы ввести их повторно. Файл Skill даёт преимущество чистого контекста нового чата без затрат памяти, потому что ваши постоянные инструкции полностью находятся за пределами чата.

Чем файл Skill отличается от просто более длинного и подробного prompt?

Более длинный prompt по-прежнему находится внутри чата и стареет так же, как и любое другое сообщение, - он подвержен тому же размыванию в длинной ветке. Файл Skill существует отдельно от любой конкретной беседы: вы загружаете его заново в начале каждого нового чата или проекта, поэтому он никогда не конкурирует с недавними сообщениями за внимание модели и не накапливает шум конкретной задачи.

Кратко:

Длинные чаты не становятся глупее из-за того, что модель деградирует, - они становятся глупее, потому что ваши постоянные инструкции погребены под растущей кучей уточнений и ответов, связанных с конкретной задачей. Храните ROLE/FORMAT/STANDARDS в компактном многоразовом файле Skill - например, Sofia, Rafa или Thomas, - загружайте его заново в каждый новый чат и позволяйте разговору содержать только тот шум, который ему действительно нужен.

~/get-started

Skills, которые работают. Без лишнего.

Просматривайте все навыки, наборы prompt и agent в магазине.

Просмотреть все навыки →Или попробуйте бесплатные инструменты