Un muestreo negativo duro de mezcla adaptativa para la vinculación de entidades sin ejemplos
Autores: Cai, Shisen; Wu, Xi; Maimaiti, Maihemuti; Chen, Yichang; Wang, Zhixiang; Zheng, Jiong
Idioma: Inglés
Editor: MDPI
Año: 2023
Acceso abierto
Artículo científico
2023
Un muestreo negativo duro de mezcla adaptativa para la vinculación de entidades sin ejemplos
Categoría
Matemáticas
Subcategoría
Matemáticas generales
Palabras clave
Entidad vinculante
Escenario de cero disparos
BERT
Métodos de muestreo negativo
Adaptive_mixup_hard
Arquitectura Biencoder
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 33
Citaciones: Sin citaciones
Recientemente, el enfoque de la investigación de vinculación de entidades se ha centrado en el escenario de cero disparos, donde la entidad propuesta para ser etiquetada en el momento de la prueba nunca fue observada durante la fase de entrenamiento, o puede pertenecer a un dominio diferente al dominio fuente. Los estudios actuales han utilizado BERT como codificador base, ya que establece de manera efectiva enlaces distribucionales entre los dominios fuente y objetivo. Los métodos de muestreo negativo actualmente disponibles utilizan un enfoque extractivo, lo que dificulta que los modelos aprendan muestras negativas diversas y más desafiantes. Para abordar este problema, proponemos un método de muestreo negativo generativo, adaptive_mixup_hard, que genera entidades negativas más difíciles fusionando las características de las muestras positivas y negativas junto con un muestreo negativo duro e introduce un parámetro adaptativo transformable para aumentar la diversidad de las muestras negativas. A continuación, fusionamos nuestro método con la arquitectura Biencoder y evaluamos su rendimiento bajo tres funciones de puntuación diferentes. En última instancia, los resultados experimentales en el conjunto de datos de referencia estándar, Zeshel, demuestran la efectividad de nuestro método.
Descripción
Recientemente, el enfoque de la investigación de vinculación de entidades se ha centrado en el escenario de cero disparos, donde la entidad propuesta para ser etiquetada en el momento de la prueba nunca fue observada durante la fase de entrenamiento, o puede pertenecer a un dominio diferente al dominio fuente. Los estudios actuales han utilizado BERT como codificador base, ya que establece de manera efectiva enlaces distribucionales entre los dominios fuente y objetivo. Los métodos de muestreo negativo actualmente disponibles utilizan un enfoque extractivo, lo que dificulta que los modelos aprendan muestras negativas diversas y más desafiantes. Para abordar este problema, proponemos un método de muestreo negativo generativo, adaptive_mixup_hard, que genera entidades negativas más difíciles fusionando las características de las muestras positivas y negativas junto con un muestreo negativo duro e introduce un parámetro adaptativo transformable para aumentar la diversidad de las muestras negativas. A continuación, fusionamos nuestro método con la arquitectura Biencoder y evaluamos su rendimiento bajo tres funciones de puntuación diferentes. En última instancia, los resultados experimentales en el conjunto de datos de referencia estándar, Zeshel, demuestran la efectividad de nuestro método.