Mejorando la robustez de los detectores de texto generados por IA: una encuesta
Autores: Liu, Xin; Li, Yang; Li, Kan
Idioma: Inglés
Editor: MDPI
Año: 2025
Acceso abierto
Artículo científico
2025
Mejorando la robustez de los detectores de texto generados por IA: una encuesta
Categoría
Matemáticas
Subcategoría
Matemáticas generales
Palabras clave
Texto generado por IA
Detección
Robustez
Perturbación de texto
Fuera de distribución
Texto híbrido humano-IA
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 23
Citaciones: Sin citaciones
En los últimos años, la detección de texto generado por inteligencia artificial (AIGT) ha atraído cada vez más atención, y algunos detectores demuestran una alta precisión en entornos de referencia. Sin embargo, la complejidad y diversidad de AIGT y los métodos de contra-detección en aplicaciones del mundo real presentan desafíos sustanciales para la detección de AIGT. En consecuencia, hay una creciente demanda de detectores de AIGT más robustos. Esta encuesta proporciona una descripción sistemática de la investigación existente sobre cómo mejorar la robustez de los detectores de AIGT. Categorizamos el enfoque de la literatura relacionada en tres áreas clave: robustez de la perturbación de texto, robustez fuera de distribución (OOD) y robustez de la detección de texto híbrido AI-humano (AHT). Para cada área, resumimos y analizamos exhaustivamente los métodos de mejora de la robustez correspondientes e incorporamos adicionalmente algunos enfoques de otros campos como suplemento. También organizamos metódicamente conjuntos de datos de referencia relevantes, métodos de evaluación de robustez y métricas utilizadas para evaluar el rendimiento de los detectores. Luego, a través de experimentos, evaluamos la robustez de varios detectores comúnmente utilizados. Los experimentos muestran que las perturbaciones de texto, el texto OOD y AHT afectan el rendimiento de estos detectores, revelando que aún queda un amplio margen de mejora en su robustez. Finalmente, sugerimos direcciones futuras prometedoras basadas en los problemas actuales enfrentados por los detectores de AIGT y los requisitos de detección en escenarios del mundo real. Hasta donde sabemos, esta es la primera revisión centrada específicamente en la robustez de la detección de AIGT.
Descripción
En los últimos años, la detección de texto generado por inteligencia artificial (AIGT) ha atraído cada vez más atención, y algunos detectores demuestran una alta precisión en entornos de referencia. Sin embargo, la complejidad y diversidad de AIGT y los métodos de contra-detección en aplicaciones del mundo real presentan desafíos sustanciales para la detección de AIGT. En consecuencia, hay una creciente demanda de detectores de AIGT más robustos. Esta encuesta proporciona una descripción sistemática de la investigación existente sobre cómo mejorar la robustez de los detectores de AIGT. Categorizamos el enfoque de la literatura relacionada en tres áreas clave: robustez de la perturbación de texto, robustez fuera de distribución (OOD) y robustez de la detección de texto híbrido AI-humano (AHT). Para cada área, resumimos y analizamos exhaustivamente los métodos de mejora de la robustez correspondientes e incorporamos adicionalmente algunos enfoques de otros campos como suplemento. También organizamos metódicamente conjuntos de datos de referencia relevantes, métodos de evaluación de robustez y métricas utilizadas para evaluar el rendimiento de los detectores. Luego, a través de experimentos, evaluamos la robustez de varios detectores comúnmente utilizados. Los experimentos muestran que las perturbaciones de texto, el texto OOD y AHT afectan el rendimiento de estos detectores, revelando que aún queda un amplio margen de mejora en su robustez. Finalmente, sugerimos direcciones futuras prometedoras basadas en los problemas actuales enfrentados por los detectores de AIGT y los requisitos de detección en escenarios del mundo real. Hasta donde sabemos, esta es la primera revisión centrada específicamente en la robustez de la detección de AIGT.