Mitigando las alucinaciones de LLM utilizando un marco de múltiples agentes
Autores: Darwish, Ahmed M.; Rashed, Essam A.; Khoriba, Ghada
Idioma: Inglés
Editor: MDPI
Año: 2025
Acceso abierto
Artículo científico
2025
Mitigando las alucinaciones de LLM utilizando un marco de múltiples agentes
Categoría
Gestión y administración
Subcategoría
Gestión de la tecnología y la inovación
Palabras clave
Avance
Modelos de Lenguaje Grande
Implementación
Escalabilidad
Fiabilidad
Marco
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 1
Citaciones: Sin citaciones
El rápido avance de los Modelos de Lenguaje Grande (LLMs) ha llevado a una inversión sustancial en la mejora de sus capacidades y la expansión de sus conjuntos de características. A pesar de estos desarrollos, sigue existiendo una brecha crítica entre la sofisticación del modelo y su implementación confiable en aplicaciones del mundo real. Una preocupación clave es la inconsistencia de las salidas generadas por LLM en entornos de producción, lo que obstaculiza la escalabilidad y la fiabilidad. En respuesta a estos desafíos, proponemos un nuevo marco que integra lógica basada en reglas definidas por el usuario para restringir y guiar el comportamiento de los LLM de manera efectiva. Este marco impone límites de respuesta deterministas mientras considera las capacidades de razonamiento del modelo. Además, introducimos un mecanismo de puntuación de rendimiento cuantitativo que logra una mejora del 85.5% en la consistencia de las respuestas, facilitando salidas de modelo más predecibles y responsables. El sistema propuesto es independiente de la industria y puede generalizarse a cualquier dominio con un esquema de validación bien definido. Este trabajo contribuye a la creciente investigación sobre la alineación de los LLM con restricciones operativas estructuradas para garantizar un despliegue seguro, robusto y escalable.
Descripción
El rápido avance de los Modelos de Lenguaje Grande (LLMs) ha llevado a una inversión sustancial en la mejora de sus capacidades y la expansión de sus conjuntos de características. A pesar de estos desarrollos, sigue existiendo una brecha crítica entre la sofisticación del modelo y su implementación confiable en aplicaciones del mundo real. Una preocupación clave es la inconsistencia de las salidas generadas por LLM en entornos de producción, lo que obstaculiza la escalabilidad y la fiabilidad. En respuesta a estos desafíos, proponemos un nuevo marco que integra lógica basada en reglas definidas por el usuario para restringir y guiar el comportamiento de los LLM de manera efectiva. Este marco impone límites de respuesta deterministas mientras considera las capacidades de razonamiento del modelo. Además, introducimos un mecanismo de puntuación de rendimiento cuantitativo que logra una mejora del 85.5% en la consistencia de las respuestas, facilitando salidas de modelo más predecibles y responsables. El sistema propuesto es independiente de la industria y puede generalizarse a cualquier dominio con un esquema de validación bien definido. Este trabajo contribuye a la creciente investigación sobre la alineación de los LLM con restricciones operativas estructuradas para garantizar un despliegue seguro, robusto y escalable.