Componiendo diversos conjuntos de redes neuronales convolucionales mediante penalización
Autores: Harangi, Balazs; Baran, Agnes; Beregi-Kovacs, Marcell; Hajdu, Andras
Idioma: Inglés
Editor: MDPI
Año: 2023
Acceso abierto
Artículo científico
2023
Componiendo diversos conjuntos de redes neuronales convolucionales mediante penalización
Categoría
Matemáticas
Subcategoría
Matemáticas generales
Palabras clave
Conjunto
Redes neuronales convolucionales profundas
Diversidad
Término de penalización de correlación
Tareas de clasificación
Hallazgos experimentales
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 37
Citaciones: Sin citaciones
Los sistemas basados en conjuntos son conocidos por tener la capacidad de superar a los enfoques individuales si los miembros del conjunto son suficientemente precisos y diversos. Este documento investiga cómo se puede crear un conjunto eficiente de redes neuronales convolucionales profundas (CNN) forzándolas a ajustar sus parámetros durante el proceso de entrenamiento para aumentar la diversidad en sus decisiones. Como un nuevo enfoque teórico para alcanzar este objetivo, unimos las arquitecturas neuronales miembro a través de una capa completamente conectada e insertamos un nuevo término de penalización de correlación en la función de pérdida para obstaculizar su operación similar. Con este término complementario, implementamos la guía estándar de creación de conjuntos para aumentar la diversidad de los miembros de las CNN de una manera más detallada y flexible que técnicas existentes similares. En cuanto a la aplicabilidad, mostramos que nuestro enfoque puede utilizarse eficientemente en diversas tareas de clasificación. Específicamente, demostramos su rendimiento en análisis de imágenes médicas desafiantes y problemas de clasificación de imágenes naturales. Además de las consideraciones y fundamentos teóricos, nuestros hallazgos experimentales sugieren que la técnica propuesta es competitiva. Es decir, por un lado, la tasa de clasificación del conjunto entrenado de esta manera superó todas las precisiones individuales de las CNN miembro de vanguardia según las funciones de error estándar de estos dominios de aplicación. Por otro lado, también se validó que los miembros del conjunto se vuelven más diversos y sus precisiones aumentan al agregar el término de penalización. Además, realizamos un análisis comparativo completo, incluyendo otros enfoques basados en conjuntos de vanguardia recomendados para las mismas tareas de clasificación. Este estudio comparativo también confirmó la superioridad de nuestro método, ya que superó las soluciones actuales.
Descripción
Los sistemas basados en conjuntos son conocidos por tener la capacidad de superar a los enfoques individuales si los miembros del conjunto son suficientemente precisos y diversos. Este documento investiga cómo se puede crear un conjunto eficiente de redes neuronales convolucionales profundas (CNN) forzándolas a ajustar sus parámetros durante el proceso de entrenamiento para aumentar la diversidad en sus decisiones. Como un nuevo enfoque teórico para alcanzar este objetivo, unimos las arquitecturas neuronales miembro a través de una capa completamente conectada e insertamos un nuevo término de penalización de correlación en la función de pérdida para obstaculizar su operación similar. Con este término complementario, implementamos la guía estándar de creación de conjuntos para aumentar la diversidad de los miembros de las CNN de una manera más detallada y flexible que técnicas existentes similares. En cuanto a la aplicabilidad, mostramos que nuestro enfoque puede utilizarse eficientemente en diversas tareas de clasificación. Específicamente, demostramos su rendimiento en análisis de imágenes médicas desafiantes y problemas de clasificación de imágenes naturales. Además de las consideraciones y fundamentos teóricos, nuestros hallazgos experimentales sugieren que la técnica propuesta es competitiva. Es decir, por un lado, la tasa de clasificación del conjunto entrenado de esta manera superó todas las precisiones individuales de las CNN miembro de vanguardia según las funciones de error estándar de estos dominios de aplicación. Por otro lado, también se validó que los miembros del conjunto se vuelven más diversos y sus precisiones aumentan al agregar el término de penalización. Además, realizamos un análisis comparativo completo, incluyendo otros enfoques basados en conjuntos de vanguardia recomendados para las mismas tareas de clasificación. Este estudio comparativo también confirmó la superioridad de nuestro método, ya que superó las soluciones actuales.