Un utilisateur a créé une version distillée du modèle ONNX LivePortrait qui peut s'exécuter entièrement dans un navigateur web en utilisant WebGPU. L'implémentation originale prenait 30 secondes pour générer une seule image, mais cette nouvelle preuve de concept réduit le temps de génération à moins de 30ms sur une RTX 5090.
- Le modèle distillé atteint environ 25fps dans le navigateur.
- Il s'exécute à 100% côté client sans nécessiter de traitement côté serveur.
- Le modèle a été entraîné sur un petit ensemble de données pendant seulement quelques heures.
- La qualité de sortie est décrite comme "correcte" et varie selon le portrait d'entrée.
Ce développement démontre que LivePortrait peut être significativement optimisé pour l'inférence locale en temps réel dans les environnements web.