Esta investigación explora principalmente la aplicación de la tecnología de Procesamiento de Lenguaje Natural (NLP) en la detección de fraudes financieros de precisión, con un enfoque particular en la implementación y optimización del modelo FinChain-BERT. En primer lugar, el modelo FinChain-BERT se ha utilizado con éxito para tareas de detección de fraudes financieros, mejorando la capacidad de manejar información textual financiera compleja a través de técnicas de aprendizaje profundo. En segundo lugar, se han realizado intentos novedosos en la selección de funciones de pérdida, con una comparación entre la función de log-verosimilitud negativa y la Función de Pérdida de Palabras Clave. Los resultados indicaron que la Función de Pérdida de Palabras Clave supera a la función de log-verosimilitud negativa cuando se aplica al modelo FinChain-BERT. Los resultados experimentales validaron la eficacia del modelo FinChain-BERT y sus medidas de optimización. Ya sea en la selección de funciones de pérdida o en la aplicación de tecnología ligera, el modelo FinChain-BERT demostró un rendimiento superior. La utilización de la Función de Pérdida de Palabras Clave resultó en un modelo que alcanzó 0.97 en términos de precisión, recuperación y exactitud. Al mismo tiempo, el tamaño del modelo se redujo con éxito a 43 MB mediante la aplicación de tecnología de destilación entera, lo que tiene una importancia significativa para entornos con recursos computacionales limitados. En conclusión, esta investigación hace una contribución crucial a la aplicación de NLP en la detección de fraudes financieros y proporciona una referencia útil para estudios futuros.