Контекстное окно: что это простыми словами

Контекстное окно — это объём текста, который языковая модель обрабатывает за один раз и держит в поле внимания, пока готовит ответ. Это её рабочая память на один разговор: сколько слов, кода или документов модель способна «видеть» одновременно, прежде чем начало беседы просто перестанет учитываться.

Окно измеряется не словами и не символами, а токенами — частями текста, на которые модель разбивает любой ввод при обработке. Короткое слово часто равно одному токену, длинное или редкое — распадается на два-три. Чем больше окно в токенах, тем больше модель держит в голове за один проход: системные инструкции, твои сообщения, вложенные файлы и всё, что она уже ответила в этом диалоге.

Как это устроено

У каждой модели есть жёсткий лимит токенов на один проход, и внутри этого лимита должно поместиться всё сразу: инструкции, история переписки, прикреплённые файлы и место, которое останется для самого ответа. Условно это окно делится так: 10% уходит на системный промпт, 40% — на историю переписки, 35% — на файлы проекта, а 15% остаётся в запасе под сам ответ. Модель не хранит прошлые разговоры где-то отдельно — у неё нет долгосрочной памяти за пределами окна.

Если сложить всё это и выйти за границу окна, модель либо откажется принимать новый текст, либо инструмент автоматически обрежет или сожмёт старую часть разговора — то, что было в начале, пропадёт первым. Размер окна у моделей вырос за последние годы в сотни раз: первые языковые модели держали в памяти около 2 тысяч токенов, современные — больше миллиона.

Пример из жизни

Вот как это выглядит на практике, если ты пишешь код вместе с ИИ-агентом. Диалог растёт: ты обсуждаешь архитектуру, вставляешь файлы проекта, агент правит код, ты уточняешь детали в следующих сообщениях. В какой-то момент окно заполняется — агент начинает путать, что уже сделано, или забывает ранние решения, потому что они уже не попадают в поле его внимания. Решение простое: сжать историю диалога, оставив только суть, и освободить место в окне для новой работы.

С чего начать

Если ты делаешь продукты с ИИ, стоит сразу держать в уме, что контекстное окно — это ресурс, который кончается. Не вставляй в диалог весь проект, если по делу нужен один файл. Разбивай большую задачу на части и открывай новый диалог там, где старый контекст уже не нужен для следующего шага. Многие интерфейсы заранее показывают предупреждение, что окно почти заполнено, — не игнорируй его, а сжимай историю или начинай разговор заново.

Вопросы и ответы

Что такое контекстное окно простыми словами?

Это объём текста, который нейросеть держит в памяти за один раз: инструкции, переписку и файлы, которые ты ей передал. Всё, что не помещается в это окно, модель не учитывает при ответе.

Чем измеряется контекстное окно?

Токенами — частями текста, на которые модель разбивает любой ввод. Одно слово может быть одним токеном или несколькими, в зависимости от его длины.

Что происходит, когда контекстное окно заполняется?

Модель либо отказывается принимать новый текст, либо инструмент автоматически обрезает или сжимает старую часть диалога, освобождая место для нового. Детали из начала разговора при этом могут потеряться.