A medida que los sistemas inteligentes se integran cada vez más en los ecosistemas industriales, la demanda de transparencia, fiabilidad e interpretabilidad se ha intensificado. Este estudio investiga cómo la inteligencia artificial explicable (XAI) contribuye a mejorar la responsabilidad, la confianza y la colaboración humano-máquina en contextos industriales que transitan de la Industria 4.0 a la Industria 5.0. Para lograr este objetivo, se llevó a cabo una revisión sistemática de la literatura bibliométrica (LRSB) siguiendo el marco PRISMA, analizando 98 publicaciones revisadas por pares indexadas en Scopus. Este enfoque metodológico permitió identificar las principales tendencias de investigación, fundamentos teóricos y estrategias técnicas que dan forma al desarrollo e implementación de XAI en entornos industriales. Los hallazgos revelan que la explicabilidad está evolucionando de un requisito puramente técnico a un constructo multidimensional que integra dimensiones éticas, sociales y regulatorias. Se muestra que técnicas como el razonamiento contrafactual, el modelado causal y los marcos neuro-simbólicos híbridos mejoran la interpretabilidad y la confianza, al tiempo que alinean los sistemas de IA con principios centrados en el ser humano y legales, en particular los delineados en la Ley de IA de la UE. El análisis bibliométrico destaca además la creciente madurez de la investigación en XAI, con una fuerte convergencia académica en torno a la transparencia, la equidad y la inteligencia colaborativa. Al replantear la inteligencia artificial a través de la lente del razonamiento transparente de las máquinas, este estudio contribuye tanto a la teoría como a la práctica. Avanza un modelo conceptual que vincula la explicabilidad con indicadores medibles de confiabilidad y responsabilidad, y ofrece una hoja de ruta para desarrollar sistemas de IA responsables y alineados con el ser humano en la era de la Industria 5.0. En última instancia, el estudio subraya que fomentar la explicabilidad no solo mejora la integridad funcional, sino que también refuerza la legitimidad ética y social de la IA en la transformación industrial.