La utilización de aleloquímicos para inhibir el crecimiento excesivo de algas es un enfoque prometedor para controlar las floraciones algales nocivas (HABs). Se ha encontrado que la quercetina tiene un efecto alelopático sobre las algas. Sin embargo, su mecanismo de respuesta necesita ser mejor comprendido. En el presente estudio, se evaluaron los efectos inhibitorios de diferentes concentraciones de quercetina y se exploraron los mecanismos de inhibición. Los resultados demostraron que la quercetina inhibió significativamente el crecimiento, y el efecto inhibitorio fue dependiente de la concentración. La tasa de inhibición de 40 mg L de quercetina sobre la densidad algal alcanzó el 90.79% después de 96 h de tratamiento. La concentración de clorofila- (chl-) en los grupos de tratamiento con concentraciones de quercetina de 10, 20 y 40 mg L disminuyó en un 59.74%, 74.77% y 80.66% a las 96 h, respectivamente. Además, la quercetina afecta la fotosíntesis y daña la membrana celular, el sistema respiratorio y el sistema enzimático. Todos los parámetros de fluorescencia fotosintética, incluyendo el rendimiento cuántico fotocanónico máximo (/), el rendimiento cuántico fotocanónico real (YII), la tasa máxima de transferencia de electrones relativa (rETR) y la eficiencia en el uso de la luz (alfa), mostraron una tendencia a la baja después de la exposición. Después del tratamiento con 20 mg L de quercetina, el contenido de ácidos nucleicos y proteínas en la solución algal aumentó, y la tasa de respiración de las algas disminuyó significativamente. Además, las actividades de la superóxido dismutasa (SOD) aumentaron significativamente como respuesta al estrés oxidativo. En comparación, las actividades de la ribulosa 1,5-bisfosfato carboxilasa (Rubisco) y la fosfoenolpiruvato carboxilasa (PEPC) disminuyeron significativamente. Estos resultados revelaron que la quercetina podría inhibir afectando su fotosíntesis, respiración, membrana celular y sistema enzimático. Estos resultados son prometedores para un control efectivo.