Amin Musah construiu o Forge, um playground de código aberto no navegador para modelos do Hugging Face que gera dinamicamente interfaces de usuário usando um modelo de código separado. O sistema cria um componente TSX com base nas especificações da tarefa, que o navegador então compila no lado do cliente com esbuild-wasm e executa em um iframe sandboxed.

  • Um modelo de código dedicado do lado do servidor gera o componente de UI a partir de uma especificação de tarefa descrevendo formas de entrada/saída.
  • O navegador compila o código gerado localmente sem um servidor de build, tentando novamente até duas vezes se a compilação falhar.
  • A UI sandboxed está isolada de cookies e armazenamento, comunicando-se com a janela pai apenas por mensagens para inferência.
  • Um único worker em segundo plano gerencia uma instância do modelo para carregar os pesos, enquanto uma instância compartilhada do React previne erros de hooks.

Esta abordagem permite que os usuários testem modelos localmente em sua GPU via transformers.js + WebGPU sem construir manualmente interfaces para cada tipo de tarefa.