logo móvil
Contáctanos

Centinelas Digitales y Antagonistas: La Doble Naturaleza de los Chatbots en la Ciberseguridad

Autores: Szmurlo, Hannah; Akhtar, Zahid

Idioma: Inglés

Editor: MDPI

Año: 2024

Descargar PDF

Acceso abierto

Artículo científico
2024

Centinelas Digitales y Antagonistas: La Doble Naturaleza de los Chatbots en la Ciberseguridad


Categoría

Gestión y administración

Subcategoría

Gestión de la tecnología y la inovación

Palabras clave

Avances
Inteligencia artificial
Aprendizaje automático
Procesamiento de lenguaje natural
Chatbots
Ciberseguridad

Licencia

CC BY-SA – Atribución – Compartir Igual

Consultas: 1

Citaciones: Sin citaciones


Descripción
Los avances en inteligencia artificial, aprendizaje automático y procesamiento de lenguaje natural han culminado en tecnologías sofisticadas como modelos de transformadores, modelos de IA generativa y chatbots. Los chatbots son aplicaciones de software sofisticadas creadas para simular conversaciones con usuarios humanos. Los chatbots han aumentado en popularidad debido a su versatilidad y naturaleza amigable, lo que los ha hecho indispensables en una amplia gama de tareas. Este artículo explora la naturaleza dual de los chatbots en el ámbito de la ciberseguridad y destaca sus roles como herramientas defensivas y ofensivas. Por un lado, los chatbots mejoran las defensas cibernéticas organizacionales al proporcionar respuestas a amenazas en tiempo real y fortalecer las medidas de seguridad existentes. Por otro lado, los adversarios explotan los chatbots para realizar ciberataques avanzados, ya que los chatbots han reducido la barrera técnica para generar phishing, malware y otras ciberamenazas. A pesar de la implementación de sistemas de censura, los actores maliciosos encuentran formas de eludir estas salvaguardias. Así, este documento primero proporciona una visión general del desarrollo histórico de los chatbots y los modelos de lenguaje grande (LLMs), incluyendo su funcionalidad, aplicaciones y efectos sociales. A continuación, exploramos las aplicaciones dualistas de los chatbots en ciberseguridad mediante la revisión de los trabajos más representativos sobre ataques que involucran chatbots y los usos defensivos de los chatbots. También presentamos análisis experimentales para ilustrar y evaluar diferentes aplicaciones ofensivas de los chatbots. Finalmente, se destacan los problemas abiertos y los desafíos respecto a la dualidad de los chatbots y se discuten posibles direcciones de investigación futura para promover un uso responsable y mejorar tanto las estrategias de ciberseguridad ofensivas como defensivas.

Otros recursos que podrían interesarte

Temas Virtualpro