Los asistentes virtuales (VAs) han ganado una amplia popularidad en una amplia gama de aplicaciones, y la integración de Modelos de Lenguaje Grande (LLMs), como ChatGPT, ha abierto nuevas posibilidades para desarrollar VAs aún más sofisticados. Sin embargo, esta integración plantea nuevos problemas y desafíos éticos que deben ser cuidadosamente considerados, especialmente dado que estos sistemas se utilizan cada vez más en servicios públicos: transferencia de datos personales, transparencia en la toma de decisiones, posibles sesgos y riesgos de privacidad. Este documento, una extensión del trabajo presentado en IberSPEECH 2022, analiza el marco regulatorio actual para los VAs basados en IA en Europa y profundiza en cuestiones éticas, examinando los posibles beneficios y desventajas de integrar LLMs con VAs. Basándose en el análisis, este documento argumenta que el desarrollo y uso de VAs impulsados por LLMs deben estar guiados por un conjunto de principios éticos que prioricen la transparencia, la equidad y la prevención del daño. El documento presenta pautas específicas para el uso ético y desarrollo de esta tecnología, incluidas recomendaciones para la privacidad de datos, mitigación de sesgos y control de usuario. Al implementar estas pautas, los posibles beneficios de los VAs impulsados por LLMs pueden ser completamente realizados mientras se minimizan los riesgos de daño y se asegura que las consideraciones éticas estén en primer plano en el proceso de desarrollo.