Explorando la Actividad de la Capa Oculta de Redes Neuronales Usando Campos Vectoriales
Autores: Cantareira, Gabriel D.; Etemad, Elham; Paulovich, Fernando V.
Idioma: Inglés
Editor: MDPI
Año: 2020
Acceso abierto
Artículo científico
2020
Explorando la Actividad de la Capa Oculta de Redes Neuronales Usando Campos Vectoriales
Categoría
Gestión y administración
Subcategoría
Gestión de la tecnología y la inovación
Palabras clave
Redes neuronales
Proyecciones
Flujo de datos
Técnicas multidimensionales
Visualización de diferencias
Campos vectoriales
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 1
Citaciones: Sin citaciones
Las redes neuronales profundas son conocidas por sus resultados impresionantes en una amplia gama de aplicaciones, siendo responsables de muchos avances en tecnología en los últimos años. Sin embargo, depurar y entender el funcionamiento interno de los modelos de redes neuronales es una tarea compleja, ya que hay varios parámetros y variables involucrados en cada decisión. Las técnicas de proyección multidimensional se han adoptado con éxito para mostrar las salidas de las capas ocultas de las redes neuronales de manera explicativa, pero comparar diferentes salidas a menudo significa superponer proyecciones u observarlas una al lado de la otra, presentando obstáculos para los usuarios al transmitir adecuadamente el flujo de datos. En este artículo, introducimos un enfoque novedoso para comparar proyecciones obtenidas de múltiples etapas en un modelo de red neuronal y visualizar las diferencias en la percepción de datos. Los cambios entre proyecciones se transforman en trayectorias que, a su vez, generan campos vectoriales utilizados para representar el flujo general de información. Esta representación puede ser utilizada para crear diseños que destaquen nueva información sobre estructuras abstractas identificadas por redes neuronales.
Descripción
Las redes neuronales profundas son conocidas por sus resultados impresionantes en una amplia gama de aplicaciones, siendo responsables de muchos avances en tecnología en los últimos años. Sin embargo, depurar y entender el funcionamiento interno de los modelos de redes neuronales es una tarea compleja, ya que hay varios parámetros y variables involucrados en cada decisión. Las técnicas de proyección multidimensional se han adoptado con éxito para mostrar las salidas de las capas ocultas de las redes neuronales de manera explicativa, pero comparar diferentes salidas a menudo significa superponer proyecciones u observarlas una al lado de la otra, presentando obstáculos para los usuarios al transmitir adecuadamente el flujo de datos. En este artículo, introducimos un enfoque novedoso para comparar proyecciones obtenidas de múltiples etapas en un modelo de red neuronal y visualizar las diferencias en la percepción de datos. Los cambios entre proyecciones se transforman en trayectorias que, a su vez, generan campos vectoriales utilizados para representar el flujo general de información. Esta representación puede ser utilizada para crear diseños que destaquen nueva información sobre estructuras abstractas identificadas por redes neuronales.