A Microsoft Research desafia a suposição de que a inferência de IA física deve ser executada exclusivamente nas GPUs onboard dos robôs, demonstrando que o descarregamento para infraestrutura de borda ou nuvem melhora significativamente as cargas de trabalho de manipulação móvel. Seu estudo sistemático das cargas de trabalho de robótica revela que depender do processamento onboard limita o desempenho, a vida útil da bateria e a escalabilidade.

  • O descarregamento da inferência melhorou as taxas de sucesso das tarefas de mapeamento, planejamento, navegação e manipulação ao reduzir a latência e permitir modelos de IA maiores.
  • As GPUs onboard causaram uma desaceleração no mapeamento e planejamento de até 383% em comparação com uma A100, enquanto a navegação sofreu uma queda de 30% na detecção oportuna de obstáculos.
  • As precisões dos modelos VLA caíram 50% nas GPUs onboard menores devido às desacelerações, enquanto o descarregamento da inferência impulsionou as operações eficazmente.

A substituição das GPUs onboard que consomem muita energia por hardware leve e inferência remota melhorou a vida útil da bateria do robô Stretch-3 em mais de 100%, já que grandes GPUs onboard como a Jetson Thor drenavam as baterias em até 160%.

Os autores argumentam que sistemas de inferência distribuída são críticos para que os robôs funcionem efetivamente em ambientes abertos e imprevisíveis com modelos grandes e tempos estendidos de operação.