Las últimas décadas han visto una revolución en la robótica autónoma. Enfoques de aprendizaje profundo y sus implementaciones de hardware han hecho posible dotar a los robots de capacidades perceptivas extraordinarias. Además, pueden beneficiarse de los avances en la Planificación Automatizada, lo que les permite resolver tareas complejas de forma autónoma. Sin embargo, en muchas ocasiones, el robot actúa sin internalizar y comprender las razones detrás de una percepción o una acción, más allá de una respuesta inmediata a un estado actual del contexto. Esta brecha resulta en limitaciones que afectan su rendimiento, confiabilidad y confiabilidad. El aprendizaje profundo solo no puede cerrar esta brecha porque las razones detrás del comportamiento, cuando emana de un modelo en el que el mundo es una caja negra, no son accesibles. Lo que realmente se necesita es una arquitectura subyacente basada en un razonamiento más profundo. Entre otros problemas, esta arquitectura debería permitir que el robot genere explicaciones, permitiendo a las personas saber por qué el robot está realizando, o ha realizado, una cierta acción, o las razones que pueden haber causado un cierto fallo en el plan o una anomalía perceptiva. Además, cuando estas explicaciones surgen de un proceso cognitivo y se comparten, y por lo tanto se validan, con las personas, el robot debería poder incorporar estas explicaciones en su base de conocimiento, y así utilizar esta comprensión para mejorar el comportamiento futuro. Nuestro artículo examina los avances recientes en el desarrollo de robots autoconscientes y autoevolutivos. Estos robots están diseñados para proporcionar las explicaciones necesarias a sus contrapartes humanas, mejorando así sus capacidades funcionales en la búsqueda de ganar su confianza.