Equidad en la toma de decisiones algorítmicas: aplicaciones en votación de múltiples ganadores, aprendizaje automático y sistemas de recomendación
Autores: Shrestha, Yash Raj; Yang, Yongjie
Idioma: Inglés
Editor: MDPI
Año: 2019
Acceso abierto
Artículo científico
2019
Equidad en la toma de decisiones algorítmicas: aplicaciones en votación de múltiples ganadores, aprendizaje automático y sistemas de recomendación
Categoría
Ingeniería y Tecnología
Subcategoría
Ingeniería de Software
Palabras clave
Toma de decisiones algorítmica
Problemas éticos
Sesgos
Equidad
Toma de decisiones automatizada
Aprendizaje automático
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 53
Citaciones: Sin citaciones
La toma de decisiones algorítmica se ha vuelto ubicua en nuestras vidas sociales y económicas. Con cada vez más decisiones delegadas a algoritmos, también hemos encontrado evidencia creciente de problemas éticos con respecto a sesgos y falta de equidad en relación con los resultados de la toma de decisiones algorítmica. Tales resultados pueden llevar a consecuencias perjudiciales para grupos minoritarios en términos de género, etnia y raza. Como respuesta, la investigación reciente ha pasado del diseño de algoritmos que simplemente persiguen resultados puramente óptimos con respecto a una función objetivo fija a aquellos que también aseguran propiedades de equidad adicionales. En este estudio, nuestro objetivo es proporcionar una visión general amplia y accesible del esfuerzo de investigación reciente destinado a introducir equidad en algoritmos utilizados en la toma de decisiones automatizada en tres dominios principales, a saber, votación de múltiples ganadores, aprendizaje automático y sistemas de recomendación. Aunque estos dominios se han desarrollado por separado, comparten similitudes en cuanto a la toma de decisiones como una aplicación, que requiere la evaluación de un conjunto dado de alternativas que deben ser clasificadas con respecto a una función objetivo claramente definida. Más específicamente, estas se relacionan con tareas como (1) seleccionar colectivamente un número fijo de ganadores (o potencialmente de alto valor) de un conjunto inicial dado de alternativas; (2) agrupar un conjunto dado de alternativas en grupos disjuntos basados en diversas medidas de similitud; o (3) encontrar un ranking de consenso de todas o de un subconjunto de alternativas dadas. Con este fin, ilustramos una multitud de propiedades de equidad estudiadas en estos tres flujos de literatura, discutimos sus similitudes e interrelaciones, sintetizamos lo que sabemos hasta ahora y proporcionamos una perspectiva útil para futuras investigaciones.
Descripción
La toma de decisiones algorítmica se ha vuelto ubicua en nuestras vidas sociales y económicas. Con cada vez más decisiones delegadas a algoritmos, también hemos encontrado evidencia creciente de problemas éticos con respecto a sesgos y falta de equidad en relación con los resultados de la toma de decisiones algorítmica. Tales resultados pueden llevar a consecuencias perjudiciales para grupos minoritarios en términos de género, etnia y raza. Como respuesta, la investigación reciente ha pasado del diseño de algoritmos que simplemente persiguen resultados puramente óptimos con respecto a una función objetivo fija a aquellos que también aseguran propiedades de equidad adicionales. En este estudio, nuestro objetivo es proporcionar una visión general amplia y accesible del esfuerzo de investigación reciente destinado a introducir equidad en algoritmos utilizados en la toma de decisiones automatizada en tres dominios principales, a saber, votación de múltiples ganadores, aprendizaje automático y sistemas de recomendación. Aunque estos dominios se han desarrollado por separado, comparten similitudes en cuanto a la toma de decisiones como una aplicación, que requiere la evaluación de un conjunto dado de alternativas que deben ser clasificadas con respecto a una función objetivo claramente definida. Más específicamente, estas se relacionan con tareas como (1) seleccionar colectivamente un número fijo de ganadores (o potencialmente de alto valor) de un conjunto inicial dado de alternativas; (2) agrupar un conjunto dado de alternativas en grupos disjuntos basados en diversas medidas de similitud; o (3) encontrar un ranking de consenso de todas o de un subconjunto de alternativas dadas. Con este fin, ilustramos una multitud de propiedades de equidad estudiadas en estos tres flujos de literatura, discutimos sus similitudes e interrelaciones, sintetizamos lo que sabemos hasta ahora y proporcionamos una perspectiva útil para futuras investigaciones.