В статье подчеркивается возможность запуска модели GLM-5.2, использующей архитектуру Mixture of Experts с 744 миллиардами параметров, на потребительском оборудовании, оснащенном всего 25 ГБ ОЗУ.
Эта демонстрация демонстрирует эффективность модели в среде с ограниченными ресурсами, которая обычно считается недостаточной для таких больших языковых моделей.