logo móvil
Contáctanos

De principios confiables a un proceso de desarrollo confiable: la necesidad y elementos del desarrollo confiable de sistemas de IA

Autores: Hohma, Ellen; Lütge, Christoph

Idioma: Inglés

Editor: MDPI

Año: 2023

Descargar PDF

Acceso abierto

Artículo científico
2023

De principios confiables a un proceso de desarrollo confiable: la necesidad y elementos del desarrollo confiable de sistemas de IA


Categoría

Ingeniería y Tecnología

Subcategoría

Inteligencia Artificial

Palabras clave

ética
Academia
Industria
Inteligencia artificial responsable
Gobernanza
Confiable

Licencia

CC BY-SA – Atribución – Compartir Igual

Consultas: 24

Citaciones: Sin citaciones


Descripción
El actual esfuerzo de trasladar la ética de la inteligencia artificial de la teoría a la práctica se observa con frecuencia en la academia y la industria, lo que indica un logro importante en la comprensión teórica de la IA responsable. Sin embargo, su aplicación práctica actualmente plantea desafíos, ya que los mecanismos para traducir los principios propuestos en acciones fácilmente factibles a menudo se consideran poco claros y no listos para la práctica. En particular, la falta de enfoques uniformes y estandarizados alineados con disposiciones regulatorias es a menudo resaltada por los profesionales como una gran desventaja para la realización práctica de la gobernanza de la IA. Para abordar estos desafíos, proponemos un cambio más fuerte en el enfoque, pasando no solo de la confiabilidad de los productos de IA, sino también a la confiabilidad percibida del proceso de desarrollo, introduciendo un concepto de proceso de desarrollo confiable para sistemas de IA. Derivamos este proceso de un análisis de literatura semi-sistemático de documentos comunes de gobernanza de IA para identificar las medidas más prominentes para operacionalizar la IA responsable y compararlas con las implicaciones para los proveedores de IA de los marcos regulatorios centrados en la UE. Al evaluar el proceso resultante a lo largo de las características derivadas de procesos confiables, se muestra que, si bien a menudo se menciona la falta de claridad como una gran desventaja, y muchos proveedores de IA tienden a esperar regulaciones finalizadas antes de reaccionar, el panorama resumido de los mecanismos propuestos de gobernanza de IA ya puede cubrir muchas de las demandas vinculantes y no vinculantes que circulan en actividades similares para abordar riesgos fundamentales. Además, si bien muchos factores de confiabilidad procesal ya se cumplen, se observan limitaciones principalmente debido a la vaguedad de las medidas actualmente propuestas, lo que exige un detalle de las medidas basado en casos de uso y el contexto del sistema.

Otros recursos que podrían interesarte

Temas Virtualpro