Descubrimiento de sesgos en modelos de aprendizaje automático para la salud mental
Autores: Mosteiro, Pablo; Kuiper, Jesse; Masthoff, Judith; Scheepers, Floortje; Spruit, Marco
Idioma: Inglés
Editor: MDPI
Año: 2022
Acceso abierto
Artículo científico
2022
Descubrimiento de sesgos en modelos de aprendizaje automático para la salud mental
Categoría
Gestión y administración
Subcategoría
Gestión de la tecnología y la inovación
Palabras clave
Equidad
Sesgo
Inteligencia artificial
Aprendizaje automático
Psiquiatría
Datos
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 1
Citaciones: Sin citaciones
La equidad y el sesgo son conceptos cruciales en la inteligencia artificial, sin embargo, son relativamente ignorados en las aplicaciones de aprendizaje automático en psiquiatría clínica. Calculamos métricas de equidad y presentamos estrategias de mitigación de sesgos utilizando un modelo entrenado con datos clínicos de salud mental. Recopilamos datos estructurados relacionados con la admisión, diagnóstico y tratamiento de pacientes en el departamento de psiquiatría del Centro Médico Universitario de Utrecht. Entrenamos un modelo de aprendizaje automático para predecir futuras administraciones de benzodiazepinas en función de datos pasados. Encontramos que el género juega un papel inesperado en las predicciones, lo que constituye un sesgo. Utilizando el paquete AI Fairness 360, implementamos reponderación y regularización consciente del sesgo como estrategias de mitigación de sesgos, y exploramos sus implicaciones para el rendimiento del modelo. Esta es la primera aplicación de exploración y mitigación de sesgos en un modelo de aprendizaje automático entrenado con datos clínicos reales de psiquiatría.
Descripción
La equidad y el sesgo son conceptos cruciales en la inteligencia artificial, sin embargo, son relativamente ignorados en las aplicaciones de aprendizaje automático en psiquiatría clínica. Calculamos métricas de equidad y presentamos estrategias de mitigación de sesgos utilizando un modelo entrenado con datos clínicos de salud mental. Recopilamos datos estructurados relacionados con la admisión, diagnóstico y tratamiento de pacientes en el departamento de psiquiatría del Centro Médico Universitario de Utrecht. Entrenamos un modelo de aprendizaje automático para predecir futuras administraciones de benzodiazepinas en función de datos pasados. Encontramos que el género juega un papel inesperado en las predicciones, lo que constituye un sesgo. Utilizando el paquete AI Fairness 360, implementamos reponderación y regularización consciente del sesgo como estrategias de mitigación de sesgos, y exploramos sus implicaciones para el rendimiento del modelo. Esta es la primera aplicación de exploración y mitigación de sesgos en un modelo de aprendizaje automático entrenado con datos clínicos reales de psiquiatría.