Pesquisadores introduzem Modelos de Linguagem com Passagem de Mensagens (MPLMs), um framework que permite que threads de modelos de linguagem grandes se comuniquem diretamente usando primitivas leves de envio e recebimento, abordando os limites de escalabilidade dos paradigmas tradicionais fork-join.
- MPLMs reduzem custos de comunicação ao evitar compartilhamento redundante de contexto e utilizam preempção para encerrar ramos sem promessas cedo.
- Em quebra-cabeças de Sudoku, MPLMs requerem contexto assintoticamente menor do que Chain-of-Thought serial ou métodos fork-join paralelos, permitindo que um modelo ajustado resolva puzzles 25x25 que desafiam abordagens padrão.
- Em tarefas 3-SAT, a capacidade de preempção melhora a eficiência ao encerrar ramos sem promessas.
- Grandes modelos pré-treinados adequadamente promptados podem seguir o protocolo MPLM, alcançando resultados competitivos em perguntas de contexto longo comparado a abordagens fork-join populares.
Este framework oferece um mecanismo de escalonamento mais eficiente para raciocínio de LLM ao permitir comunicação direta entre threads e encerramento precoce baseado em informações de pares.