EdgeFirstはHugging FaceにEdgeFirst Model Zooを公開し、20の異なるエッジプラットフォームで検証されたYOLOv5、YOLOv8、YOLO11、およびYOLO26モデルを搭載しています。この検証は、ターゲットハードウェア上でゼロコピーDMA前処理、モデルデコード、後処理を直接処理する単一のRustパイプラインに依存しています。

  • プラットフォームにはNXP i.MX 8M Plus、i.MX 95、Ara240、Hailo-8L搭載のRaspberry Pi 5、Jetson Orin Nano、Qualcomm Hexagon、Apple Neural Engine、およびx86/Arm/CUDA参照が含まれます。
  • パイプラインはデバイス上でCOCO val2017データセット全体を実行し、837セッションそれぞれに対してpredictions.parquet、trace.pftrace、metrics.yamlを生成します。
  • 測定されたスループットはフレーム間のステージのオーバーラップを考慮しており、NPUの制約ではなく後処理の制限などのボトルネックを明らかにしています。

このアプローチにより、ユーザーはParquetファイルのみからメトリクスを再計算し、特定のエッジデバイスでのパフォーマンス特性を理解するために詳細なパイプライントレースを検査することができます。