Centinelas Digitales y Antagonistas: La Doble Naturaleza de los Chatbots en la Ciberseguridad
Autores: Szmurlo, Hannah; Akhtar, Zahid
Idioma: Inglés
Editor: MDPI
Año: 2024
Acceso abierto
Artículo científico
2024
Centinelas Digitales y Antagonistas: La Doble Naturaleza de los Chatbots en la Ciberseguridad
Categoría
Gestión y administración
Subcategoría
Gestión de la tecnología y la inovación
Palabras clave
Avances
Inteligencia artificial
Aprendizaje automático
Procesamiento de lenguaje natural
Chatbots
Ciberseguridad
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 1
Citaciones: Sin citaciones
Los avances en inteligencia artificial, aprendizaje automático y procesamiento de lenguaje natural han culminado en tecnologías sofisticadas como modelos de transformadores, modelos de IA generativa y chatbots. Los chatbots son aplicaciones de software sofisticadas creadas para simular conversaciones con usuarios humanos. Los chatbots han aumentado en popularidad debido a su versatilidad y naturaleza amigable, lo que los ha hecho indispensables en una amplia gama de tareas. Este artículo explora la naturaleza dual de los chatbots en el ámbito de la ciberseguridad y destaca sus roles como herramientas defensivas y ofensivas. Por un lado, los chatbots mejoran las defensas cibernéticas organizacionales al proporcionar respuestas a amenazas en tiempo real y fortalecer las medidas de seguridad existentes. Por otro lado, los adversarios explotan los chatbots para realizar ciberataques avanzados, ya que los chatbots han reducido la barrera técnica para generar phishing, malware y otras ciberamenazas. A pesar de la implementación de sistemas de censura, los actores maliciosos encuentran formas de eludir estas salvaguardias. Así, este documento primero proporciona una visión general del desarrollo histórico de los chatbots y los modelos de lenguaje grande (LLMs), incluyendo su funcionalidad, aplicaciones y efectos sociales. A continuación, exploramos las aplicaciones dualistas de los chatbots en ciberseguridad mediante la revisión de los trabajos más representativos sobre ataques que involucran chatbots y los usos defensivos de los chatbots. También presentamos análisis experimentales para ilustrar y evaluar diferentes aplicaciones ofensivas de los chatbots. Finalmente, se destacan los problemas abiertos y los desafíos respecto a la dualidad de los chatbots y se discuten posibles direcciones de investigación futura para promover un uso responsable y mejorar tanto las estrategias de ciberseguridad ofensivas como defensivas.
Descripción
Los avances en inteligencia artificial, aprendizaje automático y procesamiento de lenguaje natural han culminado en tecnologías sofisticadas como modelos de transformadores, modelos de IA generativa y chatbots. Los chatbots son aplicaciones de software sofisticadas creadas para simular conversaciones con usuarios humanos. Los chatbots han aumentado en popularidad debido a su versatilidad y naturaleza amigable, lo que los ha hecho indispensables en una amplia gama de tareas. Este artículo explora la naturaleza dual de los chatbots en el ámbito de la ciberseguridad y destaca sus roles como herramientas defensivas y ofensivas. Por un lado, los chatbots mejoran las defensas cibernéticas organizacionales al proporcionar respuestas a amenazas en tiempo real y fortalecer las medidas de seguridad existentes. Por otro lado, los adversarios explotan los chatbots para realizar ciberataques avanzados, ya que los chatbots han reducido la barrera técnica para generar phishing, malware y otras ciberamenazas. A pesar de la implementación de sistemas de censura, los actores maliciosos encuentran formas de eludir estas salvaguardias. Así, este documento primero proporciona una visión general del desarrollo histórico de los chatbots y los modelos de lenguaje grande (LLMs), incluyendo su funcionalidad, aplicaciones y efectos sociales. A continuación, exploramos las aplicaciones dualistas de los chatbots en ciberseguridad mediante la revisión de los trabajos más representativos sobre ataques que involucran chatbots y los usos defensivos de los chatbots. También presentamos análisis experimentales para ilustrar y evaluar diferentes aplicaciones ofensivas de los chatbots. Finalmente, se destacan los problemas abiertos y los desafíos respecto a la dualidad de los chatbots y se discuten posibles direcciones de investigación futura para promover un uso responsable y mejorar tanto las estrategias de ciberseguridad ofensivas como defensivas.