Muchos problemas de optimización se pueden encontrar en los campos científicos y de ingeniería. Es un desafío para los investigadores diseñar algoritmos eficientes para resolver estos problemas de optimización. El algoritmo de optimización por enjambre de partículas (PSO), que se inspira en el comportamiento social de los bandadas de aves, es un método estocástico global. Sin embargo, un modelo de aprendizaje monótono y estático, que se aplica a todas las partículas, limita la capacidad de exploración del PSO. Para superar las deficiencias, proponemos un algoritmo de optimización por enjambre de partículas mejorado basado en vecindario y memoria histórica (PSONHM). En el algoritmo propuesto, cada partícula tiene en cuenta la experiencia de sus vecinos y sus competidores al actualizar su posición. La operación de cruce se emplea para mejorar la diversidad de la población. Además, se utiliza una memoria histórica Mw para generar un nuevo peso de inercia con un mecanismo de adaptación de parámetros. Para verificar la efectividad del algoritmo propuesto, se realizan experimentos con problemas de prueba CEC2014 en 30 dimensiones. Finalmente, se emplean dos problemas de clasificación para investigar las eficiencias de PSONHM en el entrenamiento de Perceptrones Multicapa (MLP). Los resultados experimentales indican que el PSONHM propuesto puede resolver eficazmente los problemas de optimización global.