Marco de Aseguramiento de IA Basado en Riesgos
Autores: Muhammad, Aoun E.; Yow, Kin-Choong
Idioma: Inglés
Editor: MDPI
Año: 2026
Acceso abierto
Artículo científico
2026
Marco de Aseguramiento de IA Basado en Riesgos
Categoría
Gestión y administración
Subcategoría
Gestión de la tecnología y la inovación
Palabras clave
Investigación
Marco de garantía de IA basado en riesgos
Partes interesadas
Trazabilidad
Explicabilidad
Responsabilidad
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 1
Citaciones: Sin citaciones
El objetivo de esta investigación es presentar un marco de garantía de IA basado en riesgos que produzca métricas cuantificables para que los auditores y las partes interesadas tomen decisiones de implementación con una garantía basada en evidencia de trazabilidad, explicabilidad, responsabilidad y reproducibilidad. Nuestro marco propuesto incorpora la gravedad del riesgo como núcleo con modificadores adicionales para acomodar el contexto, las obligaciones de gobernanza, la exposición técnica y ambiental, y el riesgo residual relevante para el modelo de IA. Esta técnica de múltiples niveles permite a las partes interesadas y a los equipos de gobernanza operacionalizar la garantía de implementación segura. La puntuación final de adecuación de la garantía (AAS) comprende una puntuación de preparación de gobernanza (GRS) junto con dos índices adicionales para cuantificar la trazabilidad y la explicabilidad del modelo de IA. El índice de adecuación de trazabilidad (TAI) se calcula evaluando atributos como la versión del conjunto de datos y del modelo, el registro de la canalización, la completitud de la auditoría del modelo y la reproducibilidad. Y un índice de adecuación de explicabilidad (EAI) se calcula evaluando atributos como la fidelidad de las explicaciones locales y globales, la estabilidad, la fidelidad de la explicación proporcionada, la robustez, la cobertura y la comprensión humana. Esta arquitectura permite la integración de la evaluación de riesgos y habilita la garantía continua de IA mediante la implementación de un principio de cuello de botella donde la preparación del modelo de IA está limitada por el más débil de los índices. Finalmente, se aplica un mecanismo de puerta escalonada sobre la puntuación de adecuación de la garantía para imponer mínimos de garantía para sistemas de IA de alto riesgo. La evaluación realizada en modelos de IA de múltiples dominios demuestra la capacidad del marco de garantía de IA basado en riesgos (RBAAF) para generar decisiones de preparación estables y consistentes con análisis de sensibilidad y re-evaluación. Los casos de uso demuestran que incluso niveles de riesgo comparables pueden llevar a resultados de implementación significativamente diferentes dependiendo de la madurez de la garantía, y las mejoras específicas de diseño en dominios trazables o explicables tienen la capacidad de cambiar los resultados de la puerta. Combinar regulaciones de gobernanza con una puntuación de trazabilidad y explicabilidad estandarizada y cuantificable permite a las partes interesadas evaluar el sistema de IA para una implementación responsable y conforme a la regulación.
Descripción
El objetivo de esta investigación es presentar un marco de garantía de IA basado en riesgos que produzca métricas cuantificables para que los auditores y las partes interesadas tomen decisiones de implementación con una garantía basada en evidencia de trazabilidad, explicabilidad, responsabilidad y reproducibilidad. Nuestro marco propuesto incorpora la gravedad del riesgo como núcleo con modificadores adicionales para acomodar el contexto, las obligaciones de gobernanza, la exposición técnica y ambiental, y el riesgo residual relevante para el modelo de IA. Esta técnica de múltiples niveles permite a las partes interesadas y a los equipos de gobernanza operacionalizar la garantía de implementación segura. La puntuación final de adecuación de la garantía (AAS) comprende una puntuación de preparación de gobernanza (GRS) junto con dos índices adicionales para cuantificar la trazabilidad y la explicabilidad del modelo de IA. El índice de adecuación de trazabilidad (TAI) se calcula evaluando atributos como la versión del conjunto de datos y del modelo, el registro de la canalización, la completitud de la auditoría del modelo y la reproducibilidad. Y un índice de adecuación de explicabilidad (EAI) se calcula evaluando atributos como la fidelidad de las explicaciones locales y globales, la estabilidad, la fidelidad de la explicación proporcionada, la robustez, la cobertura y la comprensión humana. Esta arquitectura permite la integración de la evaluación de riesgos y habilita la garantía continua de IA mediante la implementación de un principio de cuello de botella donde la preparación del modelo de IA está limitada por el más débil de los índices. Finalmente, se aplica un mecanismo de puerta escalonada sobre la puntuación de adecuación de la garantía para imponer mínimos de garantía para sistemas de IA de alto riesgo. La evaluación realizada en modelos de IA de múltiples dominios demuestra la capacidad del marco de garantía de IA basado en riesgos (RBAAF) para generar decisiones de preparación estables y consistentes con análisis de sensibilidad y re-evaluación. Los casos de uso demuestran que incluso niveles de riesgo comparables pueden llevar a resultados de implementación significativamente diferentes dependiendo de la madurez de la garantía, y las mejoras específicas de diseño en dominios trazables o explicables tienen la capacidad de cambiar los resultados de la puerta. Combinar regulaciones de gobernanza con una puntuación de trazabilidad y explicabilidad estandarizada y cuantificable permite a las partes interesadas evaluar el sistema de IA para una implementación responsable y conforme a la regulación.