Mejorando la Seguridad Infantil en los Juegos en Línea: El Desarrollo y la Aplicación de Protectbot, un Marco de Chatbot Potenciado por IA
Autores: Faraz, Anum; Ahsan, Fardin; Mounsef, Jinane; Karamitsos, Ioannis; Kanavos, Andreas
Idioma: Inglés
Editor: MDPI
Año: 2024
Acceso abierto
Artículo científico
2024
Mejorando la Seguridad Infantil en los Juegos en Línea: El Desarrollo y la Aplicación de Protectbot, un Marco de Chatbot Potenciado por IA
Categoría
Gestión y administración
Subcategoría
Gestión de la tecnología y la inovación
Palabras clave
Marco de chatbot innovador
Seguridad
Entornos de juego en línea
DialoGPT
Modelo de IA
Comportamientos depredadores
Seguridad infantil
Comunidades de juego en línea
Intervenciones impulsadas por IA
Espacios digitales
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 1
Citaciones: Sin citaciones
Este estudio presenta Protectbot, un innovador marco de chatbot diseñado para mejorar la seguridad en los entornos de juego en línea para niños. En su núcleo, Protectbot incorpora DialoGPT, un modelo de Inteligencia Artificial (IA) conversacional basado en la tecnología Generative Pre-trained Transformer 2 (GPT-2), diseñado para simular interacciones similares a las humanas dentro de las salas de chat de juegos. El marco se distingue por una robusta estrategia de clasificación de texto, rigurosamente entrenada en el conjunto de datos Publicly Available Natural 2012 (PAN12), con el objetivo de identificar y mitigar comportamientos depredadores sexuales potenciales a través del análisis de conversaciones en el chat. Al utilizar fastText para incrustaciones de palabras para vectorizar oraciones, hemos refinado un clasificador de máquina de soporte vectorial (SVM), logrando métricas de rendimiento notables, con recall, precisión y puntuaciones F que se acercan a 0.99. Estas métricas no solo demuestran la efectividad del clasificador, sino que también significan un avance significativo más allá de las metodologías existentes en este campo. La eficacia de nuestro marco se valida además en un conjunto de datos personalizado, compuesto por 71 registros de chat depredadores del sitio web Perverted Justice, estableciendo aún más la fiabilidad y robustez de nuestro clasificador. Protectbot representa una innovación crucial en la mejora de la seguridad infantil dentro de las comunidades de juegos en línea, proporcionando una solución proactiva, mejorada por IA, para detectar y abordar amenazas depredadoras de manera oportuna. Nuestros hallazgos destacan el inmenso potencial de las intervenciones impulsadas por IA para crear espacios digitales más seguros para los jóvenes usuarios.
Descripción
Este estudio presenta Protectbot, un innovador marco de chatbot diseñado para mejorar la seguridad en los entornos de juego en línea para niños. En su núcleo, Protectbot incorpora DialoGPT, un modelo de Inteligencia Artificial (IA) conversacional basado en la tecnología Generative Pre-trained Transformer 2 (GPT-2), diseñado para simular interacciones similares a las humanas dentro de las salas de chat de juegos. El marco se distingue por una robusta estrategia de clasificación de texto, rigurosamente entrenada en el conjunto de datos Publicly Available Natural 2012 (PAN12), con el objetivo de identificar y mitigar comportamientos depredadores sexuales potenciales a través del análisis de conversaciones en el chat. Al utilizar fastText para incrustaciones de palabras para vectorizar oraciones, hemos refinado un clasificador de máquina de soporte vectorial (SVM), logrando métricas de rendimiento notables, con recall, precisión y puntuaciones F que se acercan a 0.99. Estas métricas no solo demuestran la efectividad del clasificador, sino que también significan un avance significativo más allá de las metodologías existentes en este campo. La eficacia de nuestro marco se valida además en un conjunto de datos personalizado, compuesto por 71 registros de chat depredadores del sitio web Perverted Justice, estableciendo aún más la fiabilidad y robustez de nuestro clasificador. Protectbot representa una innovación crucial en la mejora de la seguridad infantil dentro de las comunidades de juegos en línea, proporcionando una solución proactiva, mejorada por IA, para detectar y abordar amenazas depredadoras de manera oportuna. Nuestros hallazgos destacan el inmenso potencial de las intervenciones impulsadas por IA para crear espacios digitales más seguros para los jóvenes usuarios.