Los ciberataques han aumentado como consecuencia de la expansión del Internet de las Cosas (IoT). Es necesario detectar anomalías para que los dispositivos inteligentes necesiten ser protegidos de estos ataques, que deben ser mitigados en el borde de la red IoT. Por lo tanto, la detección eficiente depende de la selección de un conjunto óptimo de características del tráfico IoT y del algoritmo de aprendizaje que clasifica el tráfico IoT. Hay un defecto en los sistemas de detección de anomalías existentes porque los algoritmos de selección de características no identifican el conjunto de características más apropiado. En este artículo, se sugiere un algoritmo de optimización de cultivos de arroz en capas (LPCO) para elegir el conjunto óptimo de características. Además, el uso de dispositivos inteligentes genera un tráfico tremendo, que puede ser etiquetado como normal o ataque utilizando un enfoque de red de cápsulas (CN). Se utilizan cinco conjuntos de datos de referencia de tráfico de red para evaluar el enfoque propuesto, incluyendo NSL KDD, UNSW NB, CICIDS, CSE-CIC-IDS y UNSW Bot-IoT. Basado en los experimentos, el enfoque presentado produce resultados prometedores en comparación con los clasificadores base existentes y los enfoques de selección de características. Comparativamente, la estrategia propuesta tiene un mejor rendimiento que los enfoques actuales de vanguardia.