logo móvil
Contáctanos

Inteligencia artificial confiable: asegurando datos sensibles en modelos de lenguaje grandes

Autores: Feretzakis, Georgios; Verykios, Vassilios S.

Idioma: Inglés

Editor: MDPI

Año: 2024

Descargar PDF

Acceso abierto

Artículo científico
2024

Inteligencia artificial confiable: asegurando datos sensibles en modelos de lenguaje grandes


Categoría

Ingeniería y Tecnología

Subcategoría

Inteligencia Artificial

Palabras clave

Modelos de lenguaje
PNL
Mecanismos de confianza
Información sensible
Privacidad
Seguridad de datos

Licencia

CC BY-SA – Atribución – Compartir Igual

Consultas: 25

Citaciones: Sin citaciones


Descripción
Los modelos de lenguaje grandes (LLMs) han transformado el Procesamiento del Lenguaje Natural (NLP) al permitir una generación y comprensión de texto robustas. Sin embargo, su implementación en dominios sensibles como la salud, las finanzas y los servicios legales plantea preocupaciones críticas sobre la privacidad y la seguridad de los datos. Este documento propone un marco integral para incorporar mecanismos de confianza en los LLMs para controlar dinámicamente la divulgación de información sensible. El marco integra tres componentes principales: Perfil de Confianza del Usuario, Detección de Sensibilidad de la Información y Control de Salida Adaptativo. Al aprovechar técnicas como el Control de Acceso Basado en Roles (RBAC), el Control de Acceso Basado en Atributos (ABAC), el Reconocimiento de Entidades Nombradas (NER), análisis contextual y métodos de preservación de la privacidad como la privacidad diferencial, el sistema garantiza que la información sensible se divulgue adecuadamente en función del nivel de confianza del usuario. Al centrarse en equilibrar la utilidad de los datos y la privacidad, la solución propuesta ofrece un enfoque novedoso para implementar de manera segura LLMs en entornos de alto riesgo. El trabajo futuro se centrará en probar este marco en diversos dominios para evaluar su efectividad en la gestión de datos sensibles manteniendo la eficiencia del sistema.

Otros recursos que podrían interesarte

Temas Virtualpro