logo móvil
Contáctanos

Confianza en la inteligencia artificial: modelando la toma de decisiones de operadores humanos en situaciones altamente peligrosas

Autores: Venger, Alexander L.; Dozortsev, Victor M.

Idioma: Inglés

Editor: MDPI

Año: 2023

Descargar PDF

Acceso abierto

Artículo científico
2023

Confianza en la inteligencia artificial: modelando la toma de decisiones de operadores humanos en situaciones altamente peligrosas


Categoría

Matemáticas

Subcategoría

Matemáticas generales

Palabras clave

Prescriptivo
Modelo de simulación
Operador de proceso
Inteligencia artificial
Toma de decisiones
Algoritmo de IA

Licencia

CC BY-SA – Atribución – Compartir Igual

Consultas: 35

Citaciones: Sin citaciones


Descripción
Se propone un modelo de simulación prescriptiva de la toma de decisiones de un operador de procesos asistido con un algoritmo de inteligencia artificial (IA) en un lazo de control de sistema técnico. Se analizaron situaciones cargadas de una amenaza catastrófica que pueden causar daños inaceptables. La toma de decisiones de los operadores fue interpretada en términos de una probabilidad subjetivamente admisible de desastre y una confiabilidad subjetivamente necesaria de su evaluación, que reflejan el aspecto psicológico individual de la confianza del operador en la IA. Se distinguieron cuatro estrategias extremas de toma de decisiones correspondientes a diferentes proporciones entre las variables mencionadas anteriormente. Se llevó a cabo un experimento simulando una instalación de procesos, un algoritmo de IA y la estrategia de toma de decisiones del operador. Se demostró que dependiendo de las propiedades de un proceso controlado (su dinámica y la velocidad de inicio del peligro) y las características del algoritmo de IA (tasa de error Tipo I y II), cada una de esas estrategias o alguna estrategia intermedia pueden resultar más beneficiosas que otras. El mismo enfoque es aplicable a la identificación y análisis de la sostenibilidad de estrategias aplicadas en condiciones operativas de la vida real, así como al desarrollo de un simulador de computadora para entrenar a los operadores en el control de procesos tecnológicos peligrosos utilizando consejos generados por IA.

Otros recursos que podrían interesarte

Temas Virtualpro