Confianza en la inteligencia artificial: modelando la toma de decisiones de operadores humanos en situaciones altamente peligrosas
Autores: Venger, Alexander L.; Dozortsev, Victor M.
Idioma: Inglés
Editor: MDPI
Año: 2023
Acceso abierto
Artículo científico
2023
Confianza en la inteligencia artificial: modelando la toma de decisiones de operadores humanos en situaciones altamente peligrosas
Categoría
Matemáticas
Subcategoría
Matemáticas generales
Palabras clave
Prescriptivo
Modelo de simulación
Operador de proceso
Inteligencia artificial
Toma de decisiones
Algoritmo de IA
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 35
Citaciones: Sin citaciones
Se propone un modelo de simulación prescriptiva de la toma de decisiones de un operador de procesos asistido con un algoritmo de inteligencia artificial (IA) en un lazo de control de sistema técnico. Se analizaron situaciones cargadas de una amenaza catastrófica que pueden causar daños inaceptables. La toma de decisiones de los operadores fue interpretada en términos de una probabilidad subjetivamente admisible de desastre y una confiabilidad subjetivamente necesaria de su evaluación, que reflejan el aspecto psicológico individual de la confianza del operador en la IA. Se distinguieron cuatro estrategias extremas de toma de decisiones correspondientes a diferentes proporciones entre las variables mencionadas anteriormente. Se llevó a cabo un experimento simulando una instalación de procesos, un algoritmo de IA y la estrategia de toma de decisiones del operador. Se demostró que dependiendo de las propiedades de un proceso controlado (su dinámica y la velocidad de inicio del peligro) y las características del algoritmo de IA (tasa de error Tipo I y II), cada una de esas estrategias o alguna estrategia intermedia pueden resultar más beneficiosas que otras. El mismo enfoque es aplicable a la identificación y análisis de la sostenibilidad de estrategias aplicadas en condiciones operativas de la vida real, así como al desarrollo de un simulador de computadora para entrenar a los operadores en el control de procesos tecnológicos peligrosos utilizando consejos generados por IA.
Descripción
Se propone un modelo de simulación prescriptiva de la toma de decisiones de un operador de procesos asistido con un algoritmo de inteligencia artificial (IA) en un lazo de control de sistema técnico. Se analizaron situaciones cargadas de una amenaza catastrófica que pueden causar daños inaceptables. La toma de decisiones de los operadores fue interpretada en términos de una probabilidad subjetivamente admisible de desastre y una confiabilidad subjetivamente necesaria de su evaluación, que reflejan el aspecto psicológico individual de la confianza del operador en la IA. Se distinguieron cuatro estrategias extremas de toma de decisiones correspondientes a diferentes proporciones entre las variables mencionadas anteriormente. Se llevó a cabo un experimento simulando una instalación de procesos, un algoritmo de IA y la estrategia de toma de decisiones del operador. Se demostró que dependiendo de las propiedades de un proceso controlado (su dinámica y la velocidad de inicio del peligro) y las características del algoritmo de IA (tasa de error Tipo I y II), cada una de esas estrategias o alguna estrategia intermedia pueden resultar más beneficiosas que otras. El mismo enfoque es aplicable a la identificación y análisis de la sostenibilidad de estrategias aplicadas en condiciones operativas de la vida real, así como al desarrollo de un simulador de computadora para entrenar a los operadores en el control de procesos tecnológicos peligrosos utilizando consejos generados por IA.