logo móvil
Contáctanos

Sesgo de Datos Sistémico en Sistemas de IA del Mundo Real: Fallos Técnicos, Brechas Legales y los Límites de la Ley de IA de la UE

Autores: Falelakis, Theodoros; Dimara, Asimina; Anagnostopoulos, Christos-Nikolaos

Idioma: Inglés

Editor: MDPI

Año: 2026

Descargar PDF

Acceso abierto

Artículo científico
2026

Sesgo de Datos Sistémico en Sistemas de IA del Mundo Real: Fallos Técnicos, Brechas Legales y los Límites de la Ley de IA de la UE


Categoría

Gestión y administración

Subcategoría

Gestión de la tecnología y la inovación

Palabras clave

Sesgo de datos
Desafío regulatorio
Ley de IA
Análisis del ciclo de vida
Enfoque de gobernanza
Lagunas regulatorias

Licencia

CC BY-SA – Atribución – Compartir Igual

Consultas: 1

Citaciones: Sin citaciones


Descripción
El sesgo de datos sistémico constituye una fuente importante de fracaso en los sistemas de IA del mundo real y representa un desafío regulatorio que sigue sin ser abordado adecuadamente por los marcos legales existentes, incluido el Reglamento de Inteligencia Artificial de la UE. Aunque el Reglamento de IA introduce un régimen regulatorio integral basado en riesgos, no captura adecuadamente cómo se origina, propaga y manifiesta el sesgo a lo largo del ciclo de vida de la IA. Este documento examina el sesgo de datos sistémico a través de un análisis del ciclo de vida legal-técnico que mapea los mecanismos de sesgo recurrentes, desde la recolección y anotación de datos hasta el entrenamiento, evaluación y despliegue del modelo, hasta los puntos de control regulatorio establecidos bajo el Reglamento de IA de la UE. Basándose en ejemplos intersectoriales de selección de personal, puntuación crediticia, predicción de riesgos en salud, identificación biométrica y sistemas autónomos, el análisis demuestra cómo los mecanismos de sesgo técnico se traducen en desafíos de gobernanza y responsabilidad sistémicos. Los hallazgos revelan brechas regulatorias persistentes, incluyendo la limitada auditabilidad de los conjuntos de datos de entrenamiento, la ausencia de métricas de equidad obligatorias, la insuficiente transparencia respecto al comportamiento del modelo y los débiles mecanismos para el monitoreo y la responsabilidad post-despliegue. Estos resultados destacan un desajuste estructural entre las dinámicas de sesgo basadas en el ciclo de vida y el marco de cumplimiento impulsado por categorías del Reglamento. El documento argumenta que abordar el sesgo sistémico requiere un enfoque de gobernanza que integre la mitigación del sesgo técnico con la supervisión legal a lo largo de todo el ciclo de vida de la IA en lugar de depender principalmente de controles regulatorios post hoc.

Otros recursos que podrían interesarte

Temas Virtualpro