logo móvil
Contáctanos

Red neuronal informada por SHAP

Autores: Graham, Jarrod; Sheng, Victor S.

Idioma: Inglés

Editor: MDPI

Año: 2025

Descargar PDF

Acceso abierto

Artículo científico
2025

Red neuronal informada por SHAP


Categoría

Matemáticas

Subcategoría

Matemáticas generales

Palabras clave

Optimización de redes neuronales
Estrategias de ajuste de la tasa de aprendizaje
Adam
Optimizadores SGD
Ajustes informados por SHAP
Métricas de importancia de características

Licencia

CC BY-SA – Atribución – Compartir Igual

Consultas: 47

Citaciones: Sin citaciones


Descripción
En el contexto de la optimización de redes neuronales, este estudio explora el rendimiento y la eficiencia computacional de las estrategias de ajuste de la tasa de aprendizaje aplicadas con los optimizadores Adam y SGD. Los métodos evaluados incluyen el decaimiento exponencial, la disminución por pasos y los ajustes informados por SHAP en tres conjuntos de datos: Cáncer de Mama, Diabetes y Viviendas de California. Los ajustes informados por SHAP integran métricas de importancia de características derivadas de la teoría de juegos cooperativos, escalando la tasa de aprendizaje global o modificando directamente los gradientes de los parámetros de la primera capa. Se realizó una búsqueda exhaustiva en la cuadrícula para optimizar los hiperparámetros, y el rendimiento se evaluó utilizando métricas como la pérdida de prueba, RMSE, R cuadrado, precisión y tiempo de entrenamiento. Los resultados revelaron que mientras que la disminución por pasos entregaba consistentemente un rendimiento sólido en todos los conjuntos de datos, los métodos informados por SHAP a menudo demostraron una precisión y generalización aún mayores, como SHAP logrando la menor pérdida de prueba y RMSE en el conjunto de datos de Viviendas de California. Sin embargo, la sobrecarga computacional de los enfoques basados en SHAP fue significativa, especialmente en los ajustes de gradientes dirigidos. Este estudio destaca el potencial de los métodos informados por SHAP para guiar los procesos de optimización a través de percepciones a nivel de características, ofreciendo ventajas en datos con interacciones de características complejas. A pesar de los desafíos computacionales, estos métodos proporcionan una base para explorar cómo la importancia de las características puede informar el entrenamiento de redes neuronales, presentando direcciones prometedoras para futuras investigaciones sobre técnicas de optimización escalables y eficientes.

Otros recursos que podrían interesarte

Temas Virtualpro