Garantizando la preservación de la estructura de datos topológicos bajo la compresión del autoencoder debido a la regularización del espacio latente en los nodos de Gauss-Legendre
Autores: Ramanaik, Chethan Krishnamurthy; Willmann, Anna; Suarez Cardona, Juan-Esteban; Hanfeld, Pia; Hoffmann, Nico; Hecht, Michael
Idioma: Inglés
Editor: MDPI
Año: 2024
Acceso abierto
Artículo científico
2024
Garantizando la preservación de la estructura de datos topológicos bajo la compresión del autoencoder debido a la regularización del espacio latente en los nodos de Gauss-Legendre
Categoría
Matemáticas
Subcategoría
Análisis matemático
Palabras clave
Espacio latente
Restricción de regularización
Jacobiano del autoencoder
Nodos de Legendre
Defectos topológicos
Perceptrón multicapa
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 22
Citaciones: Sin citaciones
Formulamos una restricción de regularización del espacio latente independiente de los datos para autoencoders no supervisados generales. La regularización se basa en muestrear el Jacobiano del autoencoder en los nodos de Legendre, que son los centros de la cuadratura de Gauss-Legendre. Revisitar este clásico nos permite demostrar que los autoencoders regularizados aseguran una re-incrustación uno a uno del conjunto de datos inicial en su representación latente. Las demostraciones muestran que las estrategias de regularización propuestas anteriormente, como la codificación autocontractiva, causan defectos topológicos incluso en ejemplos simples, al igual que los autoencoders basados en convoluciones (variacionales). En contraste, la preservación topológica está garantizada por las redes neuronales de perceptrón multicapa estándar cuando se regularizan utilizando nuestro enfoque. Esta observación se extiende desde el clásico conjunto de datos FashionMNIST hasta las exploraciones cerebrales de resonancia magnética (MRI) de baja resolución, lo que sugiere que representaciones fiables de baja dimensión de conjuntos de datos complejos de alta dimensión pueden lograrse utilizando esta técnica de regularización.
Descripción
Formulamos una restricción de regularización del espacio latente independiente de los datos para autoencoders no supervisados generales. La regularización se basa en muestrear el Jacobiano del autoencoder en los nodos de Legendre, que son los centros de la cuadratura de Gauss-Legendre. Revisitar este clásico nos permite demostrar que los autoencoders regularizados aseguran una re-incrustación uno a uno del conjunto de datos inicial en su representación latente. Las demostraciones muestran que las estrategias de regularización propuestas anteriormente, como la codificación autocontractiva, causan defectos topológicos incluso en ejemplos simples, al igual que los autoencoders basados en convoluciones (variacionales). En contraste, la preservación topológica está garantizada por las redes neuronales de perceptrón multicapa estándar cuando se regularizan utilizando nuestro enfoque. Esta observación se extiende desde el clásico conjunto de datos FashionMNIST hasta las exploraciones cerebrales de resonancia magnética (MRI) de baja resolución, lo que sugiere que representaciones fiables de baja dimensión de conjuntos de datos complejos de alta dimensión pueden lograrse utilizando esta técnica de regularización.