Para los sistemas de fabricación inteligente, el monitoreo de calidad de la soldadura ya ha comenzado a cambiar de la modelización empírica a la integración de conocimientos directamente de los datos capturados, utilizando una de las tecnologías habilitadoras más prometedoras de la Industria 4.0, la inteligencia artificial (IA)/aprendizaje automático (AA). Sin embargo, más allá de las ventajas que aportan, la IA/AA introduce nuevos tipos de amenazas a la seguridad, que están relacionadas con su propia naturaleza y, eventualmente, representarán amenazas reales para el costo de producción y la calidad de los productos. Estos tipos de amenazas a la seguridad, como los ataques adversariales, están causando que el sistema de IA objetivo produzca resultados incorrectos o maliciosos. Esto puede socavar el rendimiento (y la eficiencia) de los sistemas de monitoreo de calidad. En este contexto, se presenta una plataforma de software que sirve para el monitoreo de calidad de la soldadura en el contexto de la soldadura por resistencia y la soldadura por arco sumergido. Los modelos de clasificación de AA alojados que están entrenados para realizar el monitoreo de calidad son sometidos a dos tipos diferentes de ataques adversariales no dirigidos y de caja negra. El primero se basa en un enfoque puramente estadístico y el segundo se basa en el conocimiento del proceso para elaborar estas entradas adversariales que pueden comprometer la precisión de los modelos. Finalmente, se discuten los mecanismos mediante los cuales estos ataques adversariales están causando daño para identificar qué características o defectos del proceso se están replicando. De esta manera, se esboza una hoja de ruta hacia la prueba de la vulnerabilidad y robustez de un sistema de monitoreo de calidad basado en IA.