Backend hexagon memperkenalkan dukungan untuk membagi model di beberapa perangkat menggunakan strategi pembagian baris. Perubahan ini memungkinkan distribusi pekerjaan di kernel yang digabungkan dan memperbarui konfigurasi perangkat untuk menangani grup perangkat.
- Menambahkan kemampuan pembagian baris multi-perangkat ke arsitektur hexagon.
- Mengimplementasikan logika pembagian pekerjaan untuk kernel yang digabungkan dan berbagai operasi seperti matmul dan argsort.
- Memperbarui inisialisasi sesi, penanganan fence, dan pemulihan kesalahan untuk ketahanan dalam skenario multi-perangkat.
- Merombak logika partisi dan menyinkronkan status di antara grup perangkat.
Peningkatan ini memungkinkan model didistribusikan di beberapa inti atau perangkat Hexagon, berpotensi meningkatkan throughput dan memungkinkan inferensi model yang lebih besar.