Convergencia asintótica de redes neuronales con restricciones suaves para la estimación de densidad
Autores: Trentin, Edmondo
Idioma: Inglés
Editor: MDPI
Año: 2020
Acceso abierto
Artículo científico
2020
Convergencia asintótica de redes neuronales con restricciones suaves para la estimación de densidad
Categoría
Matemáticas
Subcategoría
Matemáticas generales
Palabras clave
Redes neuronales
Estimación de densidad
SC-NN-4pdf
Axioma de Kolmogorov
Enfoques paramétricos
Enfoques no paramétricos
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 26
Citaciones: Sin citaciones
Se ha introducido recientemente una red neuronal de restricción suave para la estimación de densidad (SC-NN-4pdf) para abordar los problemas que surgen de la aplicación de redes neuronales a problemas de estimación de densidad (en particular, la satisfacción del segundo axioma de Kolmogorov). Aunque se ha demostrado que el SC-NN-4pdf supera a enfoques paramétricos y no paramétricos (tanto del aprendizaje automático como de las estadísticas) en una variedad de tareas de estimación de densidad univariante y multivariante, hasta ahora no se ha presentado una clara justificación detrás de su rendimiento. Tampoco se ha realizado ningún análisis de las propiedades teóricas fundamentales del SC-NN-4pdf. Este documento reduce las brechas, entregando una declaración formal de la clase de funciones de densidad que pueden ser modeladas con cualquier grado de precisión por SC-NN-4pdfs, así como una prueba de convergencia asintótica en probabilidad del algoritmo de entrenamiento de SC-NN-4pdf bajo condiciones suaves para una clase popular de arquitecturas neuronales. Estas propiedades del SC-NN-4pdf sientan las bases para comprender las sólidas capacidades de estimación que los SC-NN-4pdfs solo han exhibido empíricamente hasta ahora.
Descripción
Se ha introducido recientemente una red neuronal de restricción suave para la estimación de densidad (SC-NN-4pdf) para abordar los problemas que surgen de la aplicación de redes neuronales a problemas de estimación de densidad (en particular, la satisfacción del segundo axioma de Kolmogorov). Aunque se ha demostrado que el SC-NN-4pdf supera a enfoques paramétricos y no paramétricos (tanto del aprendizaje automático como de las estadísticas) en una variedad de tareas de estimación de densidad univariante y multivariante, hasta ahora no se ha presentado una clara justificación detrás de su rendimiento. Tampoco se ha realizado ningún análisis de las propiedades teóricas fundamentales del SC-NN-4pdf. Este documento reduce las brechas, entregando una declaración formal de la clase de funciones de densidad que pueden ser modeladas con cualquier grado de precisión por SC-NN-4pdfs, así como una prueba de convergencia asintótica en probabilidad del algoritmo de entrenamiento de SC-NN-4pdf bajo condiciones suaves para una clase popular de arquitecturas neuronales. Estas propiedades del SC-NN-4pdf sientan las bases para comprender las sólidas capacidades de estimación que los SC-NN-4pdfs solo han exhibido empíricamente hasta ahora.