Mitigando el sesgo debido a la raza y el género en las predicciones de resultados de paradas de tráfico en el aprendizaje automático
Autores: Saville, Kevin; Berger, Derek; Levman, Jacob
Idioma: Inglés
Editor: MDPI
Año: 2024
Acceso abierto
Artículo científico
2024
Mitigando el sesgo debido a la raza y el género en las predicciones de resultados de paradas de tráfico en el aprendizaje automático
Categoría
Gestión y administración
Subcategoría
Gestión de la tecnología y la inovación
Palabras clave
Detenciones de tráfico
Sesgo
Discriminación
Aprendizaje automático
Inteligencia artificial
Raza
Género
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 1
Citaciones: Sin citaciones
Las paradas de tráfico representan un punto crucial de interacción entre los ciudadanos y la aplicación de la ley, con posibles implicaciones de sesgo y discriminación. Este estudio realiza un análisis comparativo de modelos de aprendizaje automático rigurosamente validado, creando tecnologías de inteligencia artificial (IA) para predecir los resultados de las paradas de tráfico utilizando un conjunto de datos obtenido del Centro de Datos del Condado de Montgomery, Maryland, centrándose en variables como la demografía de los conductores, los tipos de violaciones y los resultados de las paradas. Repetimos nuestra rigurosa validación de la IA para la creación de modelos que predicen resultados con y sin raza y con y sin género informando el modelo. La selección de características empleada regularmente selecciona el género y la raza como variables predictoras. También observamos correlaciones entre el rendimiento del modelo y tanto la raza como el género. Si bien estos hallazgos implican la existencia de discriminación basada en la raza y el género, nuestro análisis a gran escala (>600,000 muestras) demuestra la capacidad de producir modelos de alto rendimiento que son agnósticos al género y la raza, lo que implica el potencial de crear tecnología que puede ayudar a mitigar el sesgo en las paradas de tráfico. Los hallazgos fomentan la necesidad de datos imparciales y algoritmos robustos para abordar los sesgos en las prácticas de aplicación de la ley y mejorar la confianza pública en las tecnologías de IA desplegadas en este ámbito.
Descripción
Las paradas de tráfico representan un punto crucial de interacción entre los ciudadanos y la aplicación de la ley, con posibles implicaciones de sesgo y discriminación. Este estudio realiza un análisis comparativo de modelos de aprendizaje automático rigurosamente validado, creando tecnologías de inteligencia artificial (IA) para predecir los resultados de las paradas de tráfico utilizando un conjunto de datos obtenido del Centro de Datos del Condado de Montgomery, Maryland, centrándose en variables como la demografía de los conductores, los tipos de violaciones y los resultados de las paradas. Repetimos nuestra rigurosa validación de la IA para la creación de modelos que predicen resultados con y sin raza y con y sin género informando el modelo. La selección de características empleada regularmente selecciona el género y la raza como variables predictoras. También observamos correlaciones entre el rendimiento del modelo y tanto la raza como el género. Si bien estos hallazgos implican la existencia de discriminación basada en la raza y el género, nuestro análisis a gran escala (>600,000 muestras) demuestra la capacidad de producir modelos de alto rendimiento que son agnósticos al género y la raza, lo que implica el potencial de crear tecnología que puede ayudar a mitigar el sesgo en las paradas de tráfico. Los hallazgos fomentan la necesidad de datos imparciales y algoritmos robustos para abordar los sesgos en las prácticas de aplicación de la ley y mejorar la confianza pública en las tecnologías de IA desplegadas en este ámbito.