Los sistemas de inteligencia artificial se utilizan cada vez más en aplicaciones industriales, contextos de seguridad y militares, complejos de respuesta a desastres, prácticas policiales y de justicia, finanzas y sistemas de salud. Sin embargo, las interrupciones en estos sistemas pueden tener impactos negativos en la salud, la mortalidad, los derechos humanos y los valores de los activos. La protección de dichos sistemas de diversos tipos de influencias destructivas es, por lo tanto, un área relevante de investigación. La gran mayoría de los trabajos publicados previamente tienen como objetivo reducir la vulnerabilidad a ciertos tipos de perturbaciones o implementar ciertas propiedades de resiliencia. Al mismo tiempo, los autores o bien no consideran el concepto de resiliencia como tal, o su comprensión varía considerablemente. El objetivo de este estudio es presentar un enfoque sistemático para analizar la resiliencia de los sistemas de inteligencia artificial, junto con un análisis de publicaciones científicas relevantes. Nuestra metodología implica la formación de un conjunto de factores de resiliencia, organizando y definiendo relaciones taxonómicas y ontológicas para los factores de resiliencia de los sistemas de inteligencia artificial, y analizando soluciones y desafíos de resiliencia relevantes. Este estudio analiza las fuentes de amenazas y los métodos para garantizar cada propiedad de resiliencia para los sistemas de inteligencia artificial. Como resultado, se confirma el potencial de crear un sistema de inteligencia artificial resiliente mediante la configuración de la arquitectura y los escenarios de aprendizaje. Los resultados pueden servir como una hoja de ruta para establecer los requisitos técnicos de los próximos sistemas de inteligencia artificial, así como un marco para evaluar la resiliencia de los sistemas de inteligencia artificial ya desarrollados.