logo móvil
Contáctanos

Marco de Aseguramiento de IA Basado en Riesgos

Autores: Muhammad, Aoun E.; Yow, Kin-Choong

Idioma: Inglés

Editor: MDPI

Año: 2026

Descargar PDF

Acceso abierto

Artículo científico
2026

Marco de Aseguramiento de IA Basado en Riesgos


Categoría

Gestión y administración

Subcategoría

Gestión de la tecnología y la inovación

Palabras clave

Investigación
Marco de garantía de IA basado en riesgos
Partes interesadas
Trazabilidad
Explicabilidad
Responsabilidad

Licencia

CC BY-SA – Atribución – Compartir Igual

Consultas: 1

Citaciones: Sin citaciones


Descripción
El objetivo de esta investigación es presentar un marco de garantía de IA basado en riesgos que produzca métricas cuantificables para que los auditores y las partes interesadas tomen decisiones de implementación con una garantía basada en evidencia de trazabilidad, explicabilidad, responsabilidad y reproducibilidad. Nuestro marco propuesto incorpora la gravedad del riesgo como núcleo con modificadores adicionales para acomodar el contexto, las obligaciones de gobernanza, la exposición técnica y ambiental, y el riesgo residual relevante para el modelo de IA. Esta técnica de múltiples niveles permite a las partes interesadas y a los equipos de gobernanza operacionalizar la garantía de implementación segura. La puntuación final de adecuación de la garantía (AAS) comprende una puntuación de preparación de gobernanza (GRS) junto con dos índices adicionales para cuantificar la trazabilidad y la explicabilidad del modelo de IA. El índice de adecuación de trazabilidad (TAI) se calcula evaluando atributos como la versión del conjunto de datos y del modelo, el registro de la canalización, la completitud de la auditoría del modelo y la reproducibilidad. Y un índice de adecuación de explicabilidad (EAI) se calcula evaluando atributos como la fidelidad de las explicaciones locales y globales, la estabilidad, la fidelidad de la explicación proporcionada, la robustez, la cobertura y la comprensión humana. Esta arquitectura permite la integración de la evaluación de riesgos y habilita la garantía continua de IA mediante la implementación de un principio de cuello de botella donde la preparación del modelo de IA está limitada por el más débil de los índices. Finalmente, se aplica un mecanismo de puerta escalonada sobre la puntuación de adecuación de la garantía para imponer mínimos de garantía para sistemas de IA de alto riesgo. La evaluación realizada en modelos de IA de múltiples dominios demuestra la capacidad del marco de garantía de IA basado en riesgos (RBAAF) para generar decisiones de preparación estables y consistentes con análisis de sensibilidad y re-evaluación. Los casos de uso demuestran que incluso niveles de riesgo comparables pueden llevar a resultados de implementación significativamente diferentes dependiendo de la madurez de la garantía, y las mejoras específicas de diseño en dominios trazables o explicables tienen la capacidad de cambiar los resultados de la puerta. Combinar regulaciones de gobernanza con una puntuación de trazabilidad y explicabilidad estandarizada y cuantificable permite a las partes interesadas evaluar el sistema de IA para una implementación responsable y conforme a la regulación.

Otros recursos que podrían interesarte

Temas Virtualpro