Entrenamiento de extremo a extremo de redes neuronales profundas en el dominio de Fourier
Autores: Fülöp, András; Horváth, András
Idioma: Inglés
Editor: MDPI
Año: 2022
Acceso abierto
Artículo científico
2022
Entrenamiento de extremo a extremo de redes neuronales profundas en el dominio de Fourier
Categoría
Matemáticas
Subcategoría
Matemáticas generales
Palabras clave
Redes convolucionales
Tareas de aprendizaje automático
Dominio incrustado
Cámaras inteligentes
Teléfonos móviles
Dominio de Fourier
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 35
Citaciones: Sin citaciones
Las redes convolucionales son comúnmente utilizadas en diversas tareas de aprendizaje automático, y cada vez son más populares en el ámbito integrado con dispositivos como cámaras inteligentes y teléfonos móviles. La operación de convolución puede ser sustituida por una multiplicación punto a punto en el dominio de Fourier, lo que puede ahorrar operaciones, pero generalmente se aplica con una transformada de Fourier antes y una transformada inversa de Fourier después de la multiplicación, ya que otras operaciones en las redes neuronales no se pueden implementar eficientemente en el dominio de Fourier. En este documento, presentaremos un método para implementar redes neuronales completamente en el dominio de Fourier, y con esto, ahorrar multiplicaciones y las operaciones de transformaciones inversas de Fourier. Nuestro método puede disminuir el número de operaciones en cuatro veces el número de píxeles en el núcleo de convolución con solo una disminución menor en la precisión, por ejemplo, un 4% en los conjuntos de datos MNIST y un 2% en los conjuntos de datos HADB.
Descripción
Las redes convolucionales son comúnmente utilizadas en diversas tareas de aprendizaje automático, y cada vez son más populares en el ámbito integrado con dispositivos como cámaras inteligentes y teléfonos móviles. La operación de convolución puede ser sustituida por una multiplicación punto a punto en el dominio de Fourier, lo que puede ahorrar operaciones, pero generalmente se aplica con una transformada de Fourier antes y una transformada inversa de Fourier después de la multiplicación, ya que otras operaciones en las redes neuronales no se pueden implementar eficientemente en el dominio de Fourier. En este documento, presentaremos un método para implementar redes neuronales completamente en el dominio de Fourier, y con esto, ahorrar multiplicaciones y las operaciones de transformaciones inversas de Fourier. Nuestro método puede disminuir el número de operaciones en cuatro veces el número de píxeles en el núcleo de convolución con solo una disminución menor en la precisión, por ejemplo, un 4% en los conjuntos de datos MNIST y un 2% en los conjuntos de datos HADB.