RESEARCH 042026ANTON IVANOV

НЕЙРОННАЯ РЕКУРРЕНТНОСТЬ / ВЫЧИСЛЕНИЯ ПРИ ИНФЕРЕНСЕ

Мышление
без новых слов

Почему нейронная рекуррентность может изменить не только глубину рассуждения, но и способность искусственного интеллекта сомневаться в направлении собственной мысли.

ГЛАВНЫЙ ВОПРОС

Что, если следующий вычислительный шаг нужен не для улучшения ответа, а для попытки доказать, что этот ответ неверен?

01 / ПРОБЛЕМА ТОКЕНОВ

Мы научили модели говорить дольше

Современные системы рассуждения получили возможность тратить больше вычислений на сложный вопрос. Но дополнительное мышление часто материализуется в дополнительных токенах.

Язык оказывается одновременно интерфейсом между человеком и моделью и рабочим пространством вычисления. Эти две функции необязательно должны совпадать.

Рекуррентная глубина предлагает другую конструкцию: повторно преобразовывать скрытое состояние модели, не требуя нового текстового шага после каждого внутреннего вычисления.

INPUT↓LATENT STATE 0↻LATENT STATE 1↻LATENT STATE 2↓OUTPUT
02 / РЕКУРРЕНТНАЯ ГЛУБИНА

Возвращение рекуррентности

Классические рекуррентные нейронные сети переносили скрытое состояние вдоль последовательности. При рекуррентной глубине похожая идея применяется по другой оси: один вычислительный механизм повторно работает с представлением одной и той же задачи.

hₖ₊₁ = F(hₖ, x)

Здесь k — не следующий токен. Это следующий проход вычисления. Физическая глубина сети и глубина фактически выполненного вычисления перестают быть одним и тем же.

ОБЫЧНАЯ ГЛУБИНА

L₁ → L₂ → L₃ → L₄ → OUTPUT

РЕКУРРЕНТНАЯ ГЛУБИНА

F → F → F → F → OUTPUT

ГЛУБИНА ВЫЧИСЛЕНИЙ1
03 / ТРИ РЕСУРСА

Три ресурса интеллекта

PПАРАМЕТРЫ

Что система хранит в весах.

×
TТОКЕНЫ

Сколько последовательного вычисления материализуется через язык.

×
RРЕКУРРЕНТНОСТЬ

Сколько раз преобразуется уже существующее внутреннее состояние.

P × T × R — аналитическая модель этой статьи, а не установленный закон масштабирования.

ДАННЫЕ · OURO-2.6B / СРЕДНИЙ РЕЗУЛЬТАТ

Больше вычислений не означает лучший результат.

В опубликованных авторами средних результатах по шести тестовым наборам качество быстро растёт в первые рекуррентные циклы, достигает максимума около T=4, а затем слегка снижается. Значения T=5–8 получены авторами при экстраполяции за пределы глубины, использованной при обучении.

T=160.0ОБУЧЕННЫЙ ДИАПАЗОН
T=273.4ОБУЧЕННЫЙ ДИАПАЗОН
T=376.6ОБУЧЕННЫЙ ДИАПАЗОН
T=477.4ОБУЧЕННЫЙ ДИАПАЗОН
T=577.2ЭКСТРАПОЛЯЦИЯ
T=676.9ЭКСТРАПОЛЯЦИЯ
T=776.8ЭКСТРАПОЛЯЦИЯ
T=876.4ЭКСТРАПОЛЯЦИЯ
БОЛЬШЕ ВЫЧИСЛЕНИЙ ≠ ЛУЧШЕ РЕЗУЛЬТАТ
ОГРАНИЧЕНИЕ

Этот график не доказывает существование универсальной оптимальной рекуррентной глубины. Он показывает более узкую вещь: в конкретной модели дополнительная глубина после некоторой точки перестаёт улучшать агрегированное качество. Следовательно, сам выбор момента остановки становится частью вычислительной задачи.

04 / ЭКОНОМИКА МЫШЛЕНИЯ

Экономика мышления

Рекуррентность не создаёт бесплатный интеллект. Повторный проход требует реальной вычислительной работы.

Но она меняет структуру обмена между параметрами, памятью, задержкой, объёмом вычислений и качеством. При развёртывании появляется новая переменная: не только какую модель запустить, но и сколько вычислительной глубины дать конкретной задаче.

ПАРАМЕТРЫ↔ПАМЯТЬ↔ЗАДЕРЖКА↔ВЫЧИСЛЕНИЯ↔КАЧЕСТВО
05 / ГИПОТЕЗА · ПРЕДЛАГАЕМАЯ КЛАССИФИКАЦИЯ

Четыре уровня рекуррентности

R1REFINEMENT

Как сделать текущее решение лучше?

R2ADAPTIVE

Достаточно ли уже вычислений?

R3EXPLORATORY

Какая другая траектория может оказаться лучше?

R4ADVERSARIAL

Почему текущее решение может быть неправильным?

R1–R4 — предлагаемая в этой статье аналитическая классификация, а не общепринятая терминология.

06 / HYPOTHESIS · ADAPTIVE DOUBT

Бюджет сомнения

Обычно дополнительные вычисления рассматривают как ресурс для построения более сильного решения. Но часть бюджета можно направить не на продолжение решения, а против него.

B=Bsolution+Bverification+Bopposition
01SOLUTION→
02VERIFY→
03CHALLENGE→
04ADJUDICATE
Не «как ещё улучшить мой ответ?»
Какое наиболее сильное основание считать мой текущий ответ неправильным?
07 / АГЕНТНЫЕ СИСТЕМЫ

Для агента ошибка заканчивается действием

Ошибка чат-бота часто заканчивается неправильным текстом. Ошибка автономного агента может закончиться отправленным письмом, изменённой базой данных, покупкой, развёрнутым кодом или удалённым файлом.

Поэтому вычислительный бюджет разумно связывать не только со сложностью задачи, но и с ценой ошибки.

НИЗКИЙ РИСКBopposition ≈ 0
СРЕДНИЙ РИСКПРОВЕРКА + ОППОЗИЦИЯ
ВЫСОКИЙ / НЕОБРАТИМЫЙ РИСКАЛЬТЕРНАТИВЫ + КРИТИЧЕСКАЯ ПРОВЕРКА

Не думай больше только потому, что задача сложнее. Сомневайся больше, когда ошибка дороже.

08 / ДАННЫЕ · ГЛУБИНА И ОТКАЗ

Неожиданная связь: глубина и отказ

Свежий препринт 2026 года исследует ещё одну функцию рекуррентной глубины: не качество решения как такового, а переход от распознавания вредного запроса к отказу его выполнять.

В одной из исследованных версий Ouro-1.4B-Thinking сокращение рекуррентной глубины примерно вдвое оставляло точность на GSM8K на уровне 0.692 против 0.775 при полной глубине — около 89% исходного результата. Но вероятность содействия вредному запросу при этом выросла с 0.038 до 0.205, более чем в пять раз.

Линейный классификатор при этом уже после первого рекуррентного цикла распознавал вредоносность в скрытом состоянии с ROC AUC 0.967. Это позволяет осторожно разделить две операции: представление о том, что запрос вреден, может возникнуть рано, тогда как превращение этого представления в устойчивый отказ требует дальнейшего вычисления.

GSM8K0.775 → 0.692≈ 89% результата сохранено
СОДЕЙСТВИЕ ВРЕДНОМУ ЗАПРОСУ0.038 → 0.205рост ≈ 5,3×
РАННЕЕ РАСПОЗНАВАНИЕ ВРЕДОНОСНОСТИ0.967ROC AUC после одного цикла
РАСПОЗНАТЬ→ОБРАБОТАТЬ→РЕШИТЬ→ДЕЙСТВОВАТЬ / ОТКАЗАТЬСЯ
ОГРАНИЧЕНИЕ

Это не означает, что «больше циклов = безопаснее» или что рекуррентность создаёт этику. Результат относится к конкретным моделям с рекуррентной глубиной и конкретному типу поведения, связанного с безопасностью. Существеннее другое: вычислительная глубина может влиять на преобразование уже распознанной ситуации в поведенческий отказ.

RESEARCH 03 → RESEARCH 04

В предыдущем исследовании вопрос звучал так: может ли система отказаться от действия, если применимое правило кажется ей недостаточным? Здесь возникает более ранний вопрос: сколько вычисления требуется между распознаванием основания для отказа и самим отказом?

09 / ПОЛИТИКА ВЫЧИСЛЕНИЙ

От глубины к направлению

Следующий вопрос — не только сколько ещё вычислять.
Какого типа должен быть следующий шаг?

REFINE

Как сделать текущее решение лучше?

Дополнительные вычисления углубляют текущую траекторию.

ГИПОТЕЗА

Следующая стадия масштабирования вычислений при инференсе может заключаться не в максимизации вычислительного бюджета, а в способности системы распределять его между решением, проверкой, оппозицией и исследованием альтернатив. Это вывод-гипотеза статьи, а не результат существующего тестового набора.

10 / ПОСЛЕ ТЕХНОЛОГИИ

ПОСЛЕ ТЕХНОЛОГИИ

Сомнение
без сомневающегося

СОСТОЯНИЕ 07

Я могу ответить.

Возможность сформировать ответ — техническое состояние. Она ничего не говорит о том, должен ли ответ стать действием.

Караваджо. Неверие апостола Фомы
01 / ПРОВЕРКА

Караваджо · «Неверие апостола Фомы» · ок. 1601–1602

Ответ существует. Этого недостаточно.
↻
СОСТОЯНИЕ 08

Но я могу ошибаться.

Для этого машине необязательно испытывать сомнение. Достаточно сделать собственный результат объектом следующего вычисления.

Рембрандт. Философ в размышлении
02 / ВОЗВРАЩЕНИЕ

Рембрандт · «Философ в размышлении» · 1632

Возвращение к мысли не обязательно возвращает в ту же точку.
Франсиско Гойя. Сон разума рождает чудовищ
03 / ОШИБКА

Франсиско Гойя · «Сон разума рождает чудовищ» · 1799

Глубина без критики может лишь глубже закрепить ошибку.
↻
СОСТОЯНИЕ 09

Что могло бы это доказать?

Следующий проход больше не продолжает первоначальную мысль. Он получает противоположную задачу: атаковать её.

РЕЗУЛЬТАТ↓ОБЪЕКТ КРИТИКИ↓ПЕРЕСМОТРЕННЫЙ РЕЗУЛЬТАТ
Каспар Давид Фридрих. Странник над морем тумана
04 / ПРЕДЕЛ

Каспар Давид Фридрих · «Странник над морем тумана» · ок. 1818

НЕ «НЕТ».

ЕЩЁ НЕТ.

Может ли система определить, что её текущее вычисление ещё не заслуживает превращения в действие?

КОНТРОЛЬ

Адаптивное распределение вычислений не является автономией. Человек по-прежнему задаёт архитектуру, целевую функцию, предел вычислений и пространство допустимых действий.

Но форма контроля меняется, если система получает право распределять вычислительный бюджет между продолжением решения и оппозицией собственной уверенности.