Все статьи
Нейросети · 3 мин

Рассуждающая модель (reasoning): что это простыми словами

Что такое рассуждающая модель (reasoning), чем она отличается от обычной и когда её стоит ставить в продукт с ИИ.

Олег ЕмельяновДелаю продукты с помощью ИИ

Рассуждающая модель (reasoning) — это языковая модель, которая перед тем как выдать ответ, строит внутри себя цепочку промежуточных шагов рассуждения, а не сразу печатает первое правдоподобное слово. Обычная модель угадывает следующий токен на лету, reasoning-модель сначала «обдумывает» задачу — иногда несколько раз пересматривает собственный ход мысли — и только потом формулирует финальный ответ. Такие модели ещё называют моделями с «extended thinking» или «thinking»-режимом — суть одна: больше шагов перед ответом.

Для простых реплик разница незаметна: «привет» и reasoning-модель, и обычная модель обработают одинаково быстро. Разница всплывает на задачах, где нужно держать в голове несколько шагов подряд — математика, отладка кода, логические головоломки, планирование. Там обычная модель чаще спотыкается на первом неверном предположении, а reasoning-модель успевает заметить ошибку и исправить её до того, как показать ответ. Эту цепочку шагов иногда называют chain of thought — рассуждением, которое модель держит в голове перед ответом.

Reasoning-модель отвечает после шагов, а не сразу

Параметр · Обычная · Reasoning · Ответ · сразу · позже · Скорость · выше · ниже · Для задач · простых · сложных

Как это устроено

Внутри reasoning-модель — та же языковая модель, только обученная по-другому. Её дополнительно дообучают на примерах правильных цепочек рассуждений: не просто «вопрос — ответ», а «вопрос — пошаговый разбор — ответ». Часто это делают через подкрепление: модель сама генерирует несколько вариантов рассуждения к одной задаче, и её поощряют за те, что привели к правильному результату.

На этапе ответа модель тратит часть вычислений не на сам текст для пользователя, а на черновик мысли — свои внутренние шаги, которые обычно скрыты от пользователя или показаны свёрнутыми. Отсюда и название — test-time compute: компьютер считает дольше не потому, что модель крупнее, а потому что она прогоняет через себя больше промежуточных шагов перед тем, как остановиться на ответе.

Перед ответом модель проходит несколько шагов рассуждения

спроси reasoning-модель · Разбираю условие задачи · Проверяю первый вариант · Нахожу ошибку, пересчитываю · Сверяю ответ с условием · Ответ готов

Пример из жизни

Представь, что просишь модель решить уравнение x² - 5x + 6 = 0 или найти баг в куске кода, который сходу не находится. Обычная модель выдаст ответ почти мгновенно — и может ошибиться в первом же шаге, потому что не успела себя перепроверить. Reasoning-модель в этот момент показывает что-то вроде «думаю» или индикатор прогресса, проходит шаги разбора внутри — и только потом присылает результат. Дольше, зато точнее там, где цена ошибки высокая.

С чего начать

Если собираешь продукт с ИИ, reasoning-модель не нужна везде подряд. Для простых ответов, коротких реплик чат-бота или автодополнения обычная модель быстрее и дешевле — платить за лишние шаги рассуждения там не за что. Reasoning-модель включай там, где задача многошаговая: разбор кода, планирование, сложная логика, расчёты.

Многие продукты дают выбрать глубину рассуждений вручную. Чем глубже — тем точнее ответ, но тем дольше и дороже он обходится.

Чем глубже рассуждение, тем точнее и дороже ответ

Глубина рассуждений · Быстро · Средне · Глубоко · 0 · 2 · дороже

Вопросы и ответы

Чем reasoning-модель отличается от обычной?

Обычная модель выдаёт ответ сразу, reasoning-модель сначала проходит через внутренние шаги рассуждения и только потом отвечает.

Зачем нужна рассуждающая модель?

Она точнее на многошаговых задачах — математике, коде, логике, — потому что успевает заметить и исправить ошибку до финального ответа.

Как понять, что модель использует reasoning?

Интерфейс обычно показывает, что модель «думает»: индикатор или задержку перед ответом, в отличие от мгновенного ответа обычной модели.

Читать ещё