IA generativa y sus implicaciones para las definiciones de confianza
Autores: Wolf, Marty J.; Grodzinsky, Frances; Miller, Keith W.
Idioma: Inglés
Editor: MDPI
Año: 2024
Acceso abierto
Artículo científico
2024
IA generativa y sus implicaciones para las definiciones de confianza
Categoría
Gestión y administración
Subcategoría
Gestión de la tecnología y la inovación
Palabras clave
Análisis
Chatbots
Inteligencia artificial
Confianza
Suposiciones
Modificaciones
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 1
Citaciones: Sin citaciones
En este artículo, llevamos a cabo un análisis crítico de cómo los chatbots construidos sobre inteligencia artificial generativa impactan las suposiciones subyacentes a las definiciones de confianza. Nos comprometemos con una definición particular de confianza y el modelo orientado a objetos de confianza que se construyó sobre ella e identificamos cómo al menos cuatro suposiciones implícitas pueden ya no ser válidas. Esas suposiciones incluyen que las personas generalmente brindan a los demás un nivel de confianza por defecto, la capacidad de identificar si el agente de confianza es humano o artificial, que el riesgo y la confianza pueden ser fácilmente cuantificados o categorizados, y que no hay expectativa de ganancia por parte de los agentes involucrados en relaciones de confianza. Basándonos en ese análisis, sugerimos modificaciones a la definición y al modelo para acomodar las características de los chatbots de IA generativa. Nuestros cambios reafirman la responsabilidad de los desarrolladores por los impactos de sus artefactos de IA, sin importar cuán sofisticado sea el artefacto. Los cambios también reflejan que las relaciones de confianza son más problemáticas cuando los participantes en tales relaciones no están seguros de identificar la naturaleza de un posible socio de confianza.
Descripción
En este artículo, llevamos a cabo un análisis crítico de cómo los chatbots construidos sobre inteligencia artificial generativa impactan las suposiciones subyacentes a las definiciones de confianza. Nos comprometemos con una definición particular de confianza y el modelo orientado a objetos de confianza que se construyó sobre ella e identificamos cómo al menos cuatro suposiciones implícitas pueden ya no ser válidas. Esas suposiciones incluyen que las personas generalmente brindan a los demás un nivel de confianza por defecto, la capacidad de identificar si el agente de confianza es humano o artificial, que el riesgo y la confianza pueden ser fácilmente cuantificados o categorizados, y que no hay expectativa de ganancia por parte de los agentes involucrados en relaciones de confianza. Basándonos en ese análisis, sugerimos modificaciones a la definición y al modelo para acomodar las características de los chatbots de IA generativa. Nuestros cambios reafirman la responsabilidad de los desarrolladores por los impactos de sus artefactos de IA, sin importar cuán sofisticado sea el artefacto. Los cambios también reflejan que las relaciones de confianza son más problemáticas cuando los participantes en tales relaciones no están seguros de identificar la naturaleza de un posible socio de confianza.