Protegiendo la seguridad intelectual a través de la detección de discursos de odio utilizando un enfoque de inteligencia artificial
Autores: Alrasheed, Sadeem; Aladhadh, Suliman; Alabdulatif, Abdulatif
Idioma: Inglés
Editor: MDPI
Año: 2025
Acceso abierto
Artículo científico
2025
Protegiendo la seguridad intelectual a través de la detección de discursos de odio utilizando un enfoque de inteligencia artificial
Categoría
Ingeniería y Tecnología
Subcategoría
Ingeniería de Software
Palabras clave
Redes sociales en línea
Discurso de odio
Idioma árabe
Aprendizaje automático
Aprendizaje profundo
Redes neuronales convolucionales
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 25
Citaciones: Sin citaciones
Las redes sociales en línea (OSNs) se han convertido en una parte integral de la vida diaria, con plataformas como X (anteriormente Twitter) siendo unas de las más populares en Medio Oriente. Sin embargo, X se enfrenta al problema de un discurso de odio generalizado dirigido a fomentar la hostilidad entre comunidades, especialmente entre los usuarios de habla árabe. Este problema se ve agravado por la falta de herramientas efectivas para procesar contenido en árabe y la complejidad del idioma árabe, incluida su gramática diversa y dialectos. Este estudio desarrolló un marco de dos capas para detectar y clasificar el discurso de odio en árabe utilizando aprendizaje automático y aprendizaje profundo con diversas características y técnicas de incrustación de palabras. Se recopiló un gran conjunto de datos de tweets en árabe utilizando la API de X. La primera capa del marco se centró en detectar el discurso de odio, mientras que la segunda capa lo clasificó en discurso de odio religioso, social o político. Las redes neuronales convolucionales (CNN) superaron a otros modelos, logrando una precisión del 92% en la detección de discurso de odio y del 93% en la clasificación. Estos resultados resaltan la efectividad del marco para abordar las complejidades del idioma árabe y mejorar las herramientas de monitoreo de contenido, contribuyendo así a la seguridad intelectual y fomentando un espacio digital más seguro.
Descripción
Las redes sociales en línea (OSNs) se han convertido en una parte integral de la vida diaria, con plataformas como X (anteriormente Twitter) siendo unas de las más populares en Medio Oriente. Sin embargo, X se enfrenta al problema de un discurso de odio generalizado dirigido a fomentar la hostilidad entre comunidades, especialmente entre los usuarios de habla árabe. Este problema se ve agravado por la falta de herramientas efectivas para procesar contenido en árabe y la complejidad del idioma árabe, incluida su gramática diversa y dialectos. Este estudio desarrolló un marco de dos capas para detectar y clasificar el discurso de odio en árabe utilizando aprendizaje automático y aprendizaje profundo con diversas características y técnicas de incrustación de palabras. Se recopiló un gran conjunto de datos de tweets en árabe utilizando la API de X. La primera capa del marco se centró en detectar el discurso de odio, mientras que la segunda capa lo clasificó en discurso de odio religioso, social o político. Las redes neuronales convolucionales (CNN) superaron a otros modelos, logrando una precisión del 92% en la detección de discurso de odio y del 93% en la clasificación. Estos resultados resaltan la efectividad del marco para abordar las complejidades del idioma árabe y mejorar las herramientas de monitoreo de contenido, contribuyendo así a la seguridad intelectual y fomentando un espacio digital más seguro.