La exploración autónoma de vehículos autónomos en entornos fuera de carretera sigue siendo un desafío debido al impacto adverso en la eficiencia de exploración y la seguridad causado por el terreno irregular. En este artículo, proponemos un marco de planificación de rutas para la exploración autónoma con el fin de obtener rutas viables y suaves para vehículos autónomos en entornos 3D fuera de carretera. En nuestro marco, diseñamos una estrategia de selección de objetivos basada en el análisis de la transitabilidad del terreno en 3D, y la transitabilidad se evalúa integrando la dinámica del vehículo con indicadores geométricos del terreno. Esta estrategia detecta las fronteras dentro de los entornos 3D y utiliza el costo de transitabilidad de las fronteras como el peso fundamental dentro del proceso de agrupamiento, asegurando la accesibilidad de los puntos candidatos. Además, introdujimos un enfoque más preciso para evaluar los costos de navegación en terrenos fuera de carretera. Para obtener una ruta local suave, generamos un grupo de rutas locales basado en la ruta global y evaluamos la ruta local óptima a través de la transitabilidad y la suavidad de la ruta. El método se valida en simulaciones y entornos del mundo real basados en escenarios representativos fuera de carretera. Los resultados demuestran que nuestro método reduce el tiempo de exploración en hasta un 36.52% y asegura la seguridad del vehículo mientras explora terrenos desconocidos 3D fuera de carretera en comparación con métodos de última generación.