Um pesquisador está conduzindo um estudo para avaliar os limites de memória de pequenos modelos de linguagem de IA (de 100M a 3B de parâmetros) para tarefas de recuperação e reconstrução, com o objetivo de identificar aqueles adequados para laptops de baixa especificação. O estudo avalia especificamente três modelos Qwen2.5: 0.5B, 1.5B e 3B.
- O desempenho de memória para recuperação foi relativamente semelhante em todos os três tamanhos de modelo.
- Os resultados de memória para reconstrução mostraram uma tendência inesperada onde o maior modelo, Qwen2.5-3B, teve o pior desempenho.
- O modelo 3B exibiu um declínio significativamente mais acentuado no desempenho de reconstrução à medida que as informações de entrada aumentavam em comparação com os modelos 1.5B e 0.5B.
O autor está solicitando feedback sobre análises adicionais ou verificações metodológicas para verificar se esse resultado contra-intuitivo é objetivo em vez de um erro experimental.