Авторы представляют Intern-S2-Preview, серию научных агентных базовых моделей, предназначенных для поддержки мультимодального научного понимания, рассуждений, генерации и задач с длинным горизонтом. Процесс обучения начинается с научного мультимодального предварительного обучения на рендеринге научных документов, чередующихся данных «изображение-текст» и разнообразных научных корпусов.
Модель использует унифицированный конвейер последующего обучения, состоящий из контролируемой тонкой настройки, масштабируемого многозадачного обучения с подкреплением (RL), агентного RL с чёрным и белым ящиком и дистилляции on-policy. Ключевые технические улучшения включают частичный роллаут с коррекцией off-policy, адаптивную регуляризацию длины, онлайн-спекулятивное декодирование, устойчивую многозадачную оптимизацию и сбор опыта с учётом трассировки.
Intern-S2-Preview-397B расширяет моделирование временных рядов от эффективного понимания длинных последовательностей к численному прогнозированию, в то время как Memory Decoder обеспечивает отдельный путь с дополненной памятью для быстрой научной специализации. Оценки показывают, что Intern-S2-Preview-397B достигает конкурентоспособных или ведущих результатов по научным, мультимодальным, агентным и общим бенчмаркам.
Модули временных рядов улучшают понимание научных сигналов и прогнозирование на SciTS, в то время как отдельное расширение Intern-MemDec-4B повышает средний балл Biology-Instructions с 56.92 до 60.32 без изменения замороженного бэкбона на 397B.