El artículo analiza las razones por las que los exponentes de escalado de las aplicaciones actuales de Modelos de Lenguaje Grande indican un régimen insostenible en cuanto a recursos energéticos.
- Atribuir los pequeños exponentes de escalado a un sesgo numérico derivado de ignorar un límite de valor de pérdida no nulo (efecto pedestal) no resuelve el problema de la insostenibilidad.
- Se analizan los efectos de la suavidad o aspereza de los datos sobre los exponentes de escalado mediante una analogía con modelos fenomenológicos de turbulencia de fluidos.