Modelado de Sentencias Asistido por IA Bajo Restricciones de Explicabilidad: Diseño de Marco y Análisis de Aplicabilidad Judicial
Autores: Sun, Jie; Shen, Tao
Idioma: Inglés
Editor: MDPI
Año: 2026
Acceso abierto
Artículo científico
2026
Modelado de Sentencias Asistido por IA Bajo Restricciones de Explicabilidad: Diseño de Marco y Análisis de Aplicabilidad Judicial
Categoría
Gestión y administración
Subcategoría
Gestión de la tecnología y la inovación
Palabras clave
Inteligencia artificial
Sentencia penal
Sistemas algorítmicos
Transparencia
Debido proceso
Explicabilidad
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 1
Citaciones: Sin citaciones
La integración de la inteligencia artificial en las decisiones de sentencia penal representa una de las aplicaciones más significativas de los sistemas algorítmicos en la gobernanza contemporánea. Si bien las herramientas de evaluación de riesgos asistidas por IA prometen una mayor consistencia y precisión predictiva, su implementación en contextos judiciales plantea profundas preocupaciones sobre la transparencia, el debido proceso y los derechos fundamentales. Este documento propone un marco integral para el modelado de sentencias asistido por IA que incorpora la explicabilidad como una restricción fundamental en lugar de un pensamiento posterior. Basándonos en la decisión histórica del caso State v. Loomis, análisis empíricos del algoritmo COMPAS y marcos regulatorios emergentes, incluido el Acta de Inteligencia Artificial de la Unión Europea, examinamos la tensión entre el rendimiento predictivo y la transparencia interpretativa. Nuestro marco integra una arquitectura de explicación de tres capas: interpretabilidad inherente a través de modelos aditivos generalizados (GA2Ms) que proporcionan una estructura global transparente, atribución exacta de características locales derivadas directamente de la descomposición del modelo aditivo sin aproximación, y razonamiento contrafactual que identifica cambios mínimos en la entrada que alteran las clasificaciones de riesgo. Demostramos a través de una validación experimental rigurosa en el conjunto de datos COMPAS de ProPublica (n = 6172) que los modelos restringidos por la explicabilidad logran una validez predictiva comparable a las alternativas opacas (AUC 0.71 frente a 0.70-0.72 para métodos de caja negra) mientras satisfacen los requisitos constitucionales de debido proceso y los mandatos regulatorios emergentes bajo el Acta de Inteligencia Artificial de la UE. Los teoremas de imposibilidad que rigen la equidad algorítmica se examinan a la luz de sus implicaciones para la equidad en las sentencias, y proponemos que las arquitecturas de modelos transparentes permiten intervenciones específicas que no están disponibles cuando la lógica de decisión permanece oculta. El documento concluye con orientaciones políticas para las jurisdicciones que buscan implementar sistemas de sentencia asistidos por IA que equilibren los objetivos de seguridad pública con la equidad procesal y los derechos individuales.
Descripción
La integración de la inteligencia artificial en las decisiones de sentencia penal representa una de las aplicaciones más significativas de los sistemas algorítmicos en la gobernanza contemporánea. Si bien las herramientas de evaluación de riesgos asistidas por IA prometen una mayor consistencia y precisión predictiva, su implementación en contextos judiciales plantea profundas preocupaciones sobre la transparencia, el debido proceso y los derechos fundamentales. Este documento propone un marco integral para el modelado de sentencias asistido por IA que incorpora la explicabilidad como una restricción fundamental en lugar de un pensamiento posterior. Basándonos en la decisión histórica del caso State v. Loomis, análisis empíricos del algoritmo COMPAS y marcos regulatorios emergentes, incluido el Acta de Inteligencia Artificial de la Unión Europea, examinamos la tensión entre el rendimiento predictivo y la transparencia interpretativa. Nuestro marco integra una arquitectura de explicación de tres capas: interpretabilidad inherente a través de modelos aditivos generalizados (GA2Ms) que proporcionan una estructura global transparente, atribución exacta de características locales derivadas directamente de la descomposición del modelo aditivo sin aproximación, y razonamiento contrafactual que identifica cambios mínimos en la entrada que alteran las clasificaciones de riesgo. Demostramos a través de una validación experimental rigurosa en el conjunto de datos COMPAS de ProPublica (n = 6172) que los modelos restringidos por la explicabilidad logran una validez predictiva comparable a las alternativas opacas (AUC 0.71 frente a 0.70-0.72 para métodos de caja negra) mientras satisfacen los requisitos constitucionales de debido proceso y los mandatos regulatorios emergentes bajo el Acta de Inteligencia Artificial de la UE. Los teoremas de imposibilidad que rigen la equidad algorítmica se examinan a la luz de sus implicaciones para la equidad en las sentencias, y proponemos que las arquitecturas de modelos transparentes permiten intervenciones específicas que no están disponibles cuando la lógica de decisión permanece oculta. El documento concluye con orientaciones políticas para las jurisdicciones que buscan implementar sistemas de sentencia asistidos por IA que equilibren los objetivos de seguridad pública con la equidad procesal y los derechos individuales.