Aprendizaje de núcleo de transferencia basado en proceso gaussiano para adaptación de dominio no supervisada
Autores: Ge, Pengfei; Sun, Yesen
Idioma: Inglés
Editor: MDPI
Año: 2023
Acceso abierto
Artículo científico
2023
Aprendizaje de núcleo de transferencia basado en proceso gaussiano para adaptación de dominio no supervisada
Categoría
Matemáticas
Subcategoría
Matemáticas generales
Palabras clave
Métodos de adaptación de dominio
Discriminabilidad
Transferibilidad
GPTKL
Características profundas
Modelo de clasificación
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 35
Citaciones: Sin citaciones
La discriminabilidad y transferibilidad de modelos son dos factores importantes para el éxito de los métodos de adaptación de dominio. Recientemente, algunos métodos de adaptación de dominio han mejorado los modelos al agregar un módulo de extracción de información discriminante. Sin embargo, estos métodos necesitan equilibrar cuidadosamente la discriminabilidad y transferibilidad de un modelo. Para abordar este problema, proponemos un nuevo método de adaptación de dominio profundo, Aprendizaje de Kernel de Transferencia basado en Procesos Gaussianos (GPTKL), que puede realizar transferencia de conocimiento de dominio y mejorar la capacidad de discriminación del modelo simultáneamente. GPTKL utiliza la similitud de kernel entre todas las muestras en los dominios fuente y objetivo como información a priori para establecer un proceso gaussiano entre dominios. Al maximizar su función de verosimilitud, GPTKL reduce la discrepancia de dominio entre los dominios fuente y objetivo, mejorando así la generalización entre dominios. Al mismo tiempo, GPTKL introduce la estrategia de aprendizaje de kernel profundo en el proceso gaussiano entre dominios para aprender una función de kernel de transferencia basada en características profundas. A través del aprendizaje de kernel de transferencia, GPTKL aprende un espacio de características profundas con tanto discriminabilidad como transferibilidad. Además, GPTKL utiliza la entropía cruzada y la información mutua para aprender un modelo de clasificación compartido por los dominios fuente y objetivo. Experimentos en cuatro benchmarks muestran que GPTKL logra un rendimiento de clasificación superior a los métodos de vanguardia.
Descripción
La discriminabilidad y transferibilidad de modelos son dos factores importantes para el éxito de los métodos de adaptación de dominio. Recientemente, algunos métodos de adaptación de dominio han mejorado los modelos al agregar un módulo de extracción de información discriminante. Sin embargo, estos métodos necesitan equilibrar cuidadosamente la discriminabilidad y transferibilidad de un modelo. Para abordar este problema, proponemos un nuevo método de adaptación de dominio profundo, Aprendizaje de Kernel de Transferencia basado en Procesos Gaussianos (GPTKL), que puede realizar transferencia de conocimiento de dominio y mejorar la capacidad de discriminación del modelo simultáneamente. GPTKL utiliza la similitud de kernel entre todas las muestras en los dominios fuente y objetivo como información a priori para establecer un proceso gaussiano entre dominios. Al maximizar su función de verosimilitud, GPTKL reduce la discrepancia de dominio entre los dominios fuente y objetivo, mejorando así la generalización entre dominios. Al mismo tiempo, GPTKL introduce la estrategia de aprendizaje de kernel profundo en el proceso gaussiano entre dominios para aprender una función de kernel de transferencia basada en características profundas. A través del aprendizaje de kernel de transferencia, GPTKL aprende un espacio de características profundas con tanto discriminabilidad como transferibilidad. Además, GPTKL utiliza la entropía cruzada y la información mutua para aprender un modelo de clasificación compartido por los dominios fuente y objetivo. Experimentos en cuatro benchmarks muestran que GPTKL logra un rendimiento de clasificación superior a los métodos de vanguardia.