Búsqueda de arquitectura neural a través del algoritmo de poda sin entrenamiento: una evaluación bayesiana de una red con múltiples indicadores
Autores: Lin, Yiqi; Endo, Yuki; Lee, Jinho; Kamijo, Shunsuke
Idioma: Inglés
Editor: MDPI
Año: 2024
Acceso abierto
Artículo científico
2024
Búsqueda de arquitectura neural a través del algoritmo de poda sin entrenamiento: una evaluación bayesiana de una red con múltiples indicadores
Categoría
Ingeniería y Tecnología
Subcategoría
Ingeniería Eléctrica y Electrónica
Palabras clave
Búsqueda de arquitectura neuronal
Algoritmos
TTNAS
Algoritmo de habilidad real
Eficiencia
Precisión
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 40
Citaciones: Sin citaciones
La arquitectura de búsqueda neuronal (NAS) ha encontrado aplicaciones en varias áreas de visión por computadora, incluido el reconocimiento de imágenes y la detección de objetos. Un número creciente de algoritmos, como ENAS (Búsqueda de Arquitectura Neural Eficiente a través de Compartir Parámetros) y DARTS (Búsqueda de Arquitectura Diferenciable), se han aplicado a NAS. Sin embargo, los métodos actuales de NAS sin entrenamiento continúan mostrando falta de fiabilidad e ineficiencia. Este documento presenta un algoritmo basado en poda sin entrenamiento llamado TTNAS (Búsqueda de Arquitectura Neural sin Entrenamiento Verdadero-Habilidad), que utiliza un método bayesiano (algoritmo de verdadera habilidad) para combinar múltiples indicadores para evaluar redes neuronales en diferentes conjuntos de datos. El algoritmo muestra una precisión y eficiencia altamente competitivas en comparación con enfoques de vanguardia en varios conjuntos de datos. Específicamente, logra una precisión del 93,90% en CIFAR-10, una precisión del 71,91% en CIFAR-100 y una precisión del 44,96% en ImageNet 16-120, utilizando 1466 segundos de GPU en NAS-Bench-201. Además, el algoritmo muestra una mejor adaptación a otros conjuntos de datos y tareas.
Descripción
La arquitectura de búsqueda neuronal (NAS) ha encontrado aplicaciones en varias áreas de visión por computadora, incluido el reconocimiento de imágenes y la detección de objetos. Un número creciente de algoritmos, como ENAS (Búsqueda de Arquitectura Neural Eficiente a través de Compartir Parámetros) y DARTS (Búsqueda de Arquitectura Diferenciable), se han aplicado a NAS. Sin embargo, los métodos actuales de NAS sin entrenamiento continúan mostrando falta de fiabilidad e ineficiencia. Este documento presenta un algoritmo basado en poda sin entrenamiento llamado TTNAS (Búsqueda de Arquitectura Neural sin Entrenamiento Verdadero-Habilidad), que utiliza un método bayesiano (algoritmo de verdadera habilidad) para combinar múltiples indicadores para evaluar redes neuronales en diferentes conjuntos de datos. El algoritmo muestra una precisión y eficiencia altamente competitivas en comparación con enfoques de vanguardia en varios conjuntos de datos. Específicamente, logra una precisión del 93,90% en CIFAR-10, una precisión del 71,91% en CIFAR-100 y una precisión del 44,96% en ImageNet 16-120, utilizando 1466 segundos de GPU en NAS-Bench-201. Además, el algoritmo muestra una mejor adaptación a otros conjuntos de datos y tareas.