Aprendizaje colaborativo distribuido con intercambio de conocimientos representativos
Autores: Casey, Joseph; Chen, Qianjiao; Fan, Mengchen; Geng, Baocheng; Shterenberg, Roman; Chen, Zhong; Li, Keren
Idioma: Inglés
Editor: MDPI
Año: 2025
Acceso abierto
Artículo científico
2025
Aprendizaje colaborativo distribuido con intercambio de conocimientos representativos
Categoría
Matemáticas
Subcategoría
Matemáticas generales
Palabras clave
Aprendizaje colaborativo distribuido
Aprendizaje automático consciente de la privacidad
Aprendizaje federado
Aprendizaje colaborativo de transferencia
Destilación de conocimiento
Difusión de datos
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 25
Citaciones: Sin citaciones
El aprendizaje colaborativo distribuido (DCL) aborda desafíos críticos en el aprendizaje automático consciente de la privacidad al permitir la transferencia de conocimientos indirecta entre nodos con distribuciones de características heterogéneas. A diferencia de los enfoques convencionales de aprendizaje federado, DCL asume datos no IID y distribuciones de tareas de predicción que van más allá de los datos locales de entrenamiento, requiriendo colaboración selectiva para lograr generalización. En este trabajo, proponemos un novedoso marco de aprendizaje colaborativo de transferencia (CTL) que utiliza conjuntos de datos representativos y pesos de destilación adaptativos para facilitar una colaboración eficiente y preservadora de la privacidad. Al aprovechar los coeficientes de energía para cuantificar la similitud entre nodos, CTL selecciona de forma dinámica colaboradores óptimos y perfecciona modelos locales a través de la destilación de conocimientos en conjuntos de datos representativos compartidos. Las simulaciones demuestran la eficacia de CTL en mejorar la precisión de predicción en diversas tareas mientras equilibra los compromisos entre el rendimiento local y global. Además, exploramos el impacto de la dispersión y la distribución de datos en la colaboración, resaltando la importancia de una alineación de nodos personalizada. Este marco proporciona una base escalable para la generalización interdominio en el aprendizaje automático distribuido.
Descripción
El aprendizaje colaborativo distribuido (DCL) aborda desafíos críticos en el aprendizaje automático consciente de la privacidad al permitir la transferencia de conocimientos indirecta entre nodos con distribuciones de características heterogéneas. A diferencia de los enfoques convencionales de aprendizaje federado, DCL asume datos no IID y distribuciones de tareas de predicción que van más allá de los datos locales de entrenamiento, requiriendo colaboración selectiva para lograr generalización. En este trabajo, proponemos un novedoso marco de aprendizaje colaborativo de transferencia (CTL) que utiliza conjuntos de datos representativos y pesos de destilación adaptativos para facilitar una colaboración eficiente y preservadora de la privacidad. Al aprovechar los coeficientes de energía para cuantificar la similitud entre nodos, CTL selecciona de forma dinámica colaboradores óptimos y perfecciona modelos locales a través de la destilación de conocimientos en conjuntos de datos representativos compartidos. Las simulaciones demuestran la eficacia de CTL en mejorar la precisión de predicción en diversas tareas mientras equilibra los compromisos entre el rendimiento local y global. Además, exploramos el impacto de la dispersión y la distribución de datos en la colaboración, resaltando la importancia de una alineación de nodos personalizada. Este marco proporciona una base escalable para la generalización interdominio en el aprendizaje automático distribuido.