logo móvil
Contáctanos

Mejorando la Seguridad Infantil en los Juegos en Línea: El Desarrollo y la Aplicación de Protectbot, un Marco de Chatbot Potenciado por IA

Autores: Faraz, Anum; Ahsan, Fardin; Mounsef, Jinane; Karamitsos, Ioannis; Kanavos, Andreas

Idioma: Inglés

Editor: MDPI

Año: 2024

Descargar PDF

Acceso abierto

Artículo científico
2024

Mejorando la Seguridad Infantil en los Juegos en Línea: El Desarrollo y la Aplicación de Protectbot, un Marco de Chatbot Potenciado por IA


Categoría

Gestión y administración

Subcategoría

Gestión de la tecnología y la inovación

Palabras clave

Marco de chatbot innovador
Seguridad
Entornos de juego en línea
DialoGPT
Modelo de IA
Comportamientos depredadores
Seguridad infantil
Comunidades de juego en línea
Intervenciones impulsadas por IA
Espacios digitales

Licencia

CC BY-SA – Atribución – Compartir Igual

Consultas: 1

Citaciones: Sin citaciones


Descripción
Este estudio presenta Protectbot, un innovador marco de chatbot diseñado para mejorar la seguridad en los entornos de juego en línea para niños. En su núcleo, Protectbot incorpora DialoGPT, un modelo de Inteligencia Artificial (IA) conversacional basado en la tecnología Generative Pre-trained Transformer 2 (GPT-2), diseñado para simular interacciones similares a las humanas dentro de las salas de chat de juegos. El marco se distingue por una robusta estrategia de clasificación de texto, rigurosamente entrenada en el conjunto de datos Publicly Available Natural 2012 (PAN12), con el objetivo de identificar y mitigar comportamientos depredadores sexuales potenciales a través del análisis de conversaciones en el chat. Al utilizar fastText para incrustaciones de palabras para vectorizar oraciones, hemos refinado un clasificador de máquina de soporte vectorial (SVM), logrando métricas de rendimiento notables, con recall, precisión y puntuaciones F que se acercan a 0.99. Estas métricas no solo demuestran la efectividad del clasificador, sino que también significan un avance significativo más allá de las metodologías existentes en este campo. La eficacia de nuestro marco se valida además en un conjunto de datos personalizado, compuesto por 71 registros de chat depredadores del sitio web Perverted Justice, estableciendo aún más la fiabilidad y robustez de nuestro clasificador. Protectbot representa una innovación crucial en la mejora de la seguridad infantil dentro de las comunidades de juegos en línea, proporcionando una solución proactiva, mejorada por IA, para detectar y abordar amenazas depredadoras de manera oportuna. Nuestros hallazgos destacan el inmenso potencial de las intervenciones impulsadas por IA para crear espacios digitales más seguros para los jóvenes usuarios.

Otros recursos que podrían interesarte

Temas Virtualpro