В статье предлагается Symphony, гибридная программируемая и специализированная архитектура, предназначенная для устранения неэффективностей системы памяти в современных высокопроизводительных архитектурах, таких как GPU. Она сосредоточена на оркестровке данных через иерархию памяти для сокращения ненужного перемещения данных и расстояния.
- Symphony использует специализированные перенастраиваемые блоки для вычислений с плавающей точкой в соответствии с roofline, а также функции оркестровки данных, такие как генерация адресов, фильтрация данных и обработка разреженных метаданных.
- Вычислительные ресурсы распределены по всей иерархии памяти на кристалле для поддержки как программируемых, так и специализированных задач.
- Архитектура предназначена для обработки смеси разреженных и плотных алгоритмов, которые обычно не могут выполнить специализированные ускорители.
Symphony достигает производительности ASIC без программирования в области разреженной тензорной алгебры, обеспечивая улучшение времени выполнения в 31 раз и энергоэффективности в 44 раза по сравнению с GPU аналогичной конфигурации.