В статье обсуждаются причины, по которым показатели масштабирования современных приложений на основе больших языковых моделей указывают на неустойчивый режим с точки зрения энергоресурсов.
- Приписывание малых показателей масштабирования численной ошибке из-за пренебрежения пределом ненулевого значения функции потерь (эффект пьедестала) не решает проблему неустойчивости.
- Влияние гладкости или шероховатости данных на показатели масштабирования анализируется с помощью аналогии с феноменологическими моделями турбулентности жидкости.