Integrando una Supervisión Humana Integral en el Despliegue de Drones: Un Marco Conceptual Aplicado al Caso de Drones de Vigilancia Militar
Autores: Verdiesen, Ilse; Aler Tubella, Andrea; Dignum, Virginia
Idioma: Inglés
Editor: MDPI
Año: 2021
Acceso abierto
Artículo científico
2021
Integrando una Supervisión Humana Integral en el Despliegue de Drones: Un Marco Conceptual Aplicado al Caso de Drones de Vigilancia Militar
Categoría
Gestión y administración
Subcategoría
Gestión de la tecnología y la inovación
Palabras clave
Valor
Responsabilidad
Sistemas autónomos
Operacionalización
Capa socio-técnica
Drones
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 1
Citaciones: Sin citaciones
La rendición de cuentas es un valor que se menciona a menudo en el debate sobre los sistemas inteligentes y su creciente presencia en nuestra sociedad. Al centrarse específicamente en los sistemas autónomos, surge una brecha crítica: aunque hay mucho trabajo sobre gobernanza y atribución de responsabilidad, hay una falta significativa de métodos para la operacionalización de la rendición de cuentas dentro de la capa socio-técnica de los sistemas autónomos. En el caso de los vehículos aéreos no tripulados autónomos o drones, la cuestión crítica de cómo mantener la rendición de cuentas a medida que realizan vuelos completamente autónomos se vuelve cada vez más importante a medida que sus usos se multiplican tanto en los campos comercial como militar. En este documento, nuestro objetivo es llenar la brecha de operacionalización proponiendo un marco socio-técnico para garantizar la supervisión humana y la rendición de cuentas en los despliegues de drones, mostrando su aplicabilidad en el caso real de drones de vigilancia militar. Al mantener un enfoque en la rendición de cuentas y la supervisión humana como valores, nos alineamos con el énfasis puesto en la responsabilidad humana, mientras requerimos una concretización de lo que estos principios significan para cada aplicación específica, conectándolos con requisitos socio-técnicos concretos. Además, al restringir el marco a elementos observables de pre y post-despliegue, no dependemos de suposiciones sobre el funcionamiento interno del drone ni de la fluidez técnica del operador.
Descripción
La rendición de cuentas es un valor que se menciona a menudo en el debate sobre los sistemas inteligentes y su creciente presencia en nuestra sociedad. Al centrarse específicamente en los sistemas autónomos, surge una brecha crítica: aunque hay mucho trabajo sobre gobernanza y atribución de responsabilidad, hay una falta significativa de métodos para la operacionalización de la rendición de cuentas dentro de la capa socio-técnica de los sistemas autónomos. En el caso de los vehículos aéreos no tripulados autónomos o drones, la cuestión crítica de cómo mantener la rendición de cuentas a medida que realizan vuelos completamente autónomos se vuelve cada vez más importante a medida que sus usos se multiplican tanto en los campos comercial como militar. En este documento, nuestro objetivo es llenar la brecha de operacionalización proponiendo un marco socio-técnico para garantizar la supervisión humana y la rendición de cuentas en los despliegues de drones, mostrando su aplicabilidad en el caso real de drones de vigilancia militar. Al mantener un enfoque en la rendición de cuentas y la supervisión humana como valores, nos alineamos con el énfasis puesto en la responsabilidad humana, mientras requerimos una concretización de lo que estos principios significan para cada aplicación específica, conectándolos con requisitos socio-técnicos concretos. Además, al restringir el marco a elementos observables de pre y post-despliegue, no dependemos de suposiciones sobre el funcionamiento interno del drone ni de la fluidez técnica del operador.