Команда Qwen от Alibaba Cloud представляет Qwen3-Coder-Next, языковую модель с открытыми весами, специализированную для кодогенерирующих агентов, которая активирует только 3 миллиарда из своих 80 миллиардов параметров во время вывода. Модель использует крупномасштабный синтез проверяемых задач по программированию в сочетании с исполняемыми средами для обучения непосредственно на основе обратной связи посредством промежуточного обучения и обучения с подкреплением.

  • Она демонстрирует конкурентоспособные результаты на таких бенчмарках, как SWE-Bench Pro, относительно количества активных параметров, превосходя модели с значительно большими вычислительными ресурсами.
  • Процесс обучения включает продолжение предобучения, контролируемое тонкое настраивание и дистилляцию специализированных экспертных моделей в единую архитектуру.
  • Синтез задач включает извлечение данных из pull requests на GitHub и расширение существующих наборов данных для генерации примерно 800K проверяемых задач по разработке программного обеспечения на девяти языках программирования.

Этот подход демонстрирует, что масштабирование агентного обучения является ключевым фактором продвижения реальных возможностей кодогенерирующих агентов, обеспечивая эффективное развертывание в производственных средах, где задержка и стоимость являются критическими ограничениями.