Este artículo analiza la estabilidad numérica de las Máquinas de Aprendizaje Extremo (ELM) desde una perspectiva espectral, centrándose en cómo el condicionamiento de la matriz de la capa oculta afecta la fiabilidad del entrenamiento. Los autores demuestran que el valor singular más pequeño determina la amplificación de perturbaciones en los pesos de salida, mientras que el número de condición cuantifica la inestabilidad de la capa oculta.
- El cálculo de pseudoinversa basado en SVD se identifica como el método más fiable bajo mal condicionamiento en comparación con los métodos iterativos de hiperpotencia.
- Se muestra que los métodos iterativos son más sensibles a las propiedades espectrales de la matriz.
- Se discute el condicionamiento dependiente del ancho a través de una interpretación de características aleatorias.
- Los experimentos en matrices sintéticas y benchmarks de ELM confirman que la estabilidad está fundamentalmente gobernada por la estructura de los valores singulares.
Los hallazgos sugieren que comprender la estructura de los valores singulares es crítico para garantizar la estabilidad de las ELM basadas en pseudoinversa.