Исследование показывает, что передовые языковые модели могут выполнять значимые вычисления с использованием семантически нерелевантных токенов-заполнителей, создавая режим отказа, при котором рассуждение не видно в цепочке вывода. Исследование оценило 13 моделей по трём задачам и обнаружило, что многие из них значительно выигрывают от этих токенов, с улучшением точности до 13 процентных пунктов.

  • Токены-заполнители позволяют Claude Opus 4.5 удовлетворять скрытым ограничениям модульной арифметики без ущерба для точности основной задачи.
  • Обучение с подкреплением даёт Qwen3-235B сильные предпочтения к содержанию конкретных токенов-заполнителей, но ни RL, ни супервизированная тонкая настройка не дают преимуществ, сохраняющихся во время тестирования.
  • Преимущество в производительности зависит от того, какие токены используются, и варьируется между разными моделями.

Эти результаты показывают, что фронтальные модели уже выполняют вычисления без интерпретируемого следа в своих выходных токенах, демонстрируя, что невидимое рассуждение может служить целям, полностью скрытым от мониторинга цепочки вывода.