Debido a la existencia de malezas de algodón en un entorno de campo de algodón complejo con muchas especies diferentes, distribución densa, oclusión parcial y fenómenos de pequeños objetivos, el uso del algoritmo YOLO tiende a presentar problemas como baja precisión en la detección y graves errores de detección, entre otros. En este estudio, proponemos un modelo YOLOv8-DMAS para la detección de malezas de algodón en entornos complejos basado en el algoritmo de detección YOLOv8. Para mejorar la capacidad del modelo para capturar características multiescala de diferentes malezas, todos los BottleNeck son reemplazados por el Módulo Residual de Dilatación (DWR) en la red C2f, y se añade el módulo de Múltiples Escalas (MSBlock) en la última capa de la columna vertebral. Además, se añade una capa de detección de pequeños objetivos a la estructura de la cabeza para evitar la omisión de la detección de malezas de pequeños objetivos, y se utiliza el mecanismo de Fusión de Características Espaciales Adaptativas (ASFF) para mejorar la cabeza de detección y resolver el problema de inconsistencia espacial en la fusión de características. Finalmente, el método original de Supresión de No Máximos (NMS) es reemplazado por SoftNMS para mejorar la precisión en la detección de malezas densas. En comparación con YOLO v8s, los resultados experimentales muestran que el YOLOv8-DMAS mejorado mejora la precisión, el recall, mAP0.5 y mAP0.5:0.95 en un 1.7%, 3.8%, 2.1% y 3.7%, respectivamente. Además, en comparación con los algoritmos de detección de objetivos maduros YOLOv5s, YOLOv7 y SSD, mejora en un 4.8%, 4.5% y 5.9% en mAP0.5:0.95, respectivamente. Los resultados muestran que el modelo mejorado podría detectar con precisión malezas de algodón en entornos de campo complejos en tiempo real y proporcionar apoyo técnico para la investigación en desmalezado inteligente.