Red neuronal escalable informada por SHAP
Autores: Graham, Jarrod; Sheng, Victor S.
Idioma: Inglés
Editor: MDPI
Año: 2025
Acceso abierto
Artículo científico
2025
Red neuronal escalable informada por SHAP
Categoría
Matemáticas
Subcategoría
Matemáticas generales
Palabras clave
Estrategias de optimización escalables
Redes neuronales
Métodos de aprendizaje informados por SHAP
C-SHAP
FastSHAP
Importancia de características
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 19
Citaciones: Sin citaciones
En la búsqueda de estrategias de optimización escalables para redes neuronales, este estudio aborda los desafíos computacionales planteados por los métodos de aprendizaje informados por SHAP introducidos en trabajos anteriores. Específicamente, ampliamos la familia de optimización basada en SHAP incorporando dos métodos de aproximación existentes, C-SHAP y FastSHAP, para reducir el tiempo de entrenamiento mientras se preservan los beneficios de precisión y generalización de los ajustes basados en SHAP. C-SHAP aprovecha los valores SHAP agrupados para una modulación eficiente de la tasa de aprendizaje, mientras que FastSHAP proporciona aproximaciones rápidas de la importancia de las características para el ajuste del gradiente. Juntos, estos métodos mejoran significativamente la usabilidad práctica del entrenamiento de redes neuronales informado por SHAP al reducir la sobrecarga computacional sin sacrificar en gran medida el rendimiento predictivo. Los experimentos realizados en cuatro conjuntos de datos -Cáncer de Mama, Viviendas de Ames, Censo de Adultos y Viviendas de California- demuestran que tanto C-SHAP como FastSHAP logran reducciones sustanciales en el tiempo de entrenamiento en comparación con los métodos originales basados en SHAP, manteniendo pérdidas de prueba competitivas, RMSE y precisión en relación con la optimización de Adam de referencia. Además, se explora un enfoque híbrido que combina C-SHAP y FastSHAP como una vía para equilibrar aún más el rendimiento y la eficiencia. Estos resultados destacan la viabilidad de utilizar la orientación basada en la importancia de las características para mejorar la optimización en redes neuronales a un costo computacional reducido, allanando el camino para una mayor aplicabilidad de las estrategias de entrenamiento informadas por explicabilidad.
Descripción
En la búsqueda de estrategias de optimización escalables para redes neuronales, este estudio aborda los desafíos computacionales planteados por los métodos de aprendizaje informados por SHAP introducidos en trabajos anteriores. Específicamente, ampliamos la familia de optimización basada en SHAP incorporando dos métodos de aproximación existentes, C-SHAP y FastSHAP, para reducir el tiempo de entrenamiento mientras se preservan los beneficios de precisión y generalización de los ajustes basados en SHAP. C-SHAP aprovecha los valores SHAP agrupados para una modulación eficiente de la tasa de aprendizaje, mientras que FastSHAP proporciona aproximaciones rápidas de la importancia de las características para el ajuste del gradiente. Juntos, estos métodos mejoran significativamente la usabilidad práctica del entrenamiento de redes neuronales informado por SHAP al reducir la sobrecarga computacional sin sacrificar en gran medida el rendimiento predictivo. Los experimentos realizados en cuatro conjuntos de datos -Cáncer de Mama, Viviendas de Ames, Censo de Adultos y Viviendas de California- demuestran que tanto C-SHAP como FastSHAP logran reducciones sustanciales en el tiempo de entrenamiento en comparación con los métodos originales basados en SHAP, manteniendo pérdidas de prueba competitivas, RMSE y precisión en relación con la optimización de Adam de referencia. Además, se explora un enfoque híbrido que combina C-SHAP y FastSHAP como una vía para equilibrar aún más el rendimiento y la eficiencia. Estos resultados destacan la viabilidad de utilizar la orientación basada en la importancia de las características para mejorar la optimización en redes neuronales a un costo computacional reducido, allanando el camino para una mayor aplicabilidad de las estrategias de entrenamiento informadas por explicabilidad.