Las características dinámicas de los reductores planetarios de alta precisión en términos de respuesta a vibraciones y error de transmisión dinámica tienen un impacto significativo en la precisión de posicionamiento y la vida útil. Sin embargo, la dinámica de los reductores planetarios helicoidales de alta precisión de dos etapas no ha sido estudiada lo suficiente y debe ser investigada en profundidad. En este artículo, se investigan las características dinámicas del reductor planetario helicoidal de alta precisión de dos etapas en combinación con pruebas de simulación, y se optimiza la modificación microscópica de los engranajes mediante la modificación de la hélice con tambores, con el objetivo de reducir la respuesta a vibraciones y el error de transmisión dinámica. Considerando la rigidez de engranaje variable en el tiempo y los errores de transmisión, se establece un modelo de dinámica acoplada de traslación-torsión de un accionamiento de engranaje planetario helicoidal de dos etapas basado en las ecuaciones de Lagrange utilizando el método de parámetros centralizados para analizar las características dinámicas del reductor. Las ecuaciones diferenciales del sistema se derivaron al analizar la relación de desplazamiento relativo entre los componentes. Sobre esta base, se estableció un modelo de elementos finitos de un cierto tipo de reductor de alta precisión, y se investigaron factores como la velocidad de rotación y la carga a través de simulaciones y comparaciones experimentales para cuantificar o caracterizar sus efectos en el comportamiento dinámico y la precisión de transmisión. Basado en el método de modificación combinada de modificación de hélice con forma de tambor, se lleva a cabo el diseño optimizado de este tipo de reductor, y se comparan y analizan las características dinámicas del reductor antes y después de la modificación. Los resultados muestran que el método de optimización de modificación adoptado es efectivo para reducir la amplitud de vibración y la amplitud de error de transmisión del reductor. El valor pico a pico del error de transmisión del reductor se reduce en un 19.87%; el valor pico de la aceleración de vibración se reduce en un 14.29%; y el valor RMS se reduce en un 21.05% bajo la velocidad de entrada de 500 r/min y la carga de 50 N·m. Los resultados de la investigación pueden proporcionar una base teórica para el estudio de características dinámicas, diagnóstico de fallas, optimización de parámetros de engranaje y optimización estructural de reductores planetarios.