logo móvil
Contáctanos

Descubrimiento de sesgos en modelos de aprendizaje automático para la salud mental

Autores: Mosteiro, Pablo; Kuiper, Jesse; Masthoff, Judith; Scheepers, Floortje; Spruit, Marco

Idioma: Inglés

Editor: MDPI

Año: 2022

Descargar PDF

Acceso abierto

Artículo científico
2022

Descubrimiento de sesgos en modelos de aprendizaje automático para la salud mental


Categoría

Gestión y administración

Subcategoría

Gestión de la tecnología y la inovación

Palabras clave

Equidad
Sesgo
Inteligencia artificial
Aprendizaje automático
Psiquiatría
Datos

Licencia

CC BY-SA – Atribución – Compartir Igual

Consultas: 1

Citaciones: Sin citaciones


Descripción
La equidad y el sesgo son conceptos cruciales en la inteligencia artificial, sin embargo, son relativamente ignorados en las aplicaciones de aprendizaje automático en psiquiatría clínica. Calculamos métricas de equidad y presentamos estrategias de mitigación de sesgos utilizando un modelo entrenado con datos clínicos de salud mental. Recopilamos datos estructurados relacionados con la admisión, diagnóstico y tratamiento de pacientes en el departamento de psiquiatría del Centro Médico Universitario de Utrecht. Entrenamos un modelo de aprendizaje automático para predecir futuras administraciones de benzodiazepinas en función de datos pasados. Encontramos que el género juega un papel inesperado en las predicciones, lo que constituye un sesgo. Utilizando el paquete AI Fairness 360, implementamos reponderación y regularización consciente del sesgo como estrategias de mitigación de sesgos, y exploramos sus implicaciones para el rendimiento del modelo. Esta es la primera aplicación de exploración y mitigación de sesgos en un modelo de aprendizaje automático entrenado con datos clínicos reales de psiquiatría.

Otros recursos que podrían interesarte

Temas Virtualpro