Estudio de viabilidad de la informática perimetral potenciada por la inteligencia artificial: un análisis cuantitativo basado en modelos grandes
Autores: Chen, Yan; Wu, Chaonan; Sui, Runqi; Zhang, Jingjia
Idioma: Inglés
Editor: MDPI
Año: 2024
Acceso abierto
Artículo científico
2024
Estudio de viabilidad de la informática perimetral potenciada por la inteligencia artificial: un análisis cuantitativo basado en modelos grandes
Categoría
Ingeniería y Tecnología
Subcategoría
Ingeniería de Sistemas
Palabras clave
Avance
Inteligencia artificial
Computación en el borde
Cuantificación de modelos
Eficiente en energía
Respetuoso con el medio ambiente
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 46
Citaciones: Sin citaciones
El avance de la inteligencia artificial (IA) exige importantes recursos de datos y computacionales que tienen un impacto adverso en el medio ambiente. Para abordar este problema, se requiere con urgencia una nueva arquitectura informática que sea tanto eficiente en energía como respetuosa con el medio ambiente. El cómputo en el borde ha surgido como una solución cada vez más popular a este problema. En este estudio, exploramos la historia del desarrollo del cómputo en el borde y la IA y analizamos el potencial de la cuantización de modelos para vincular la IA y el cómputo en el borde. Nuestro análisis comparativo demuestra que el enfoque de cuantización puede reducir eficazmente el tamaño del modelo y acelerar la inferencia del modelo mientras mantiene su funcionalidad, lo que permite su implementación en dispositivos en el borde. Esta investigación sirve como una guía valiosa y referencia para futuros avances en la IA en el borde.
Descripción
El avance de la inteligencia artificial (IA) exige importantes recursos de datos y computacionales que tienen un impacto adverso en el medio ambiente. Para abordar este problema, se requiere con urgencia una nueva arquitectura informática que sea tanto eficiente en energía como respetuosa con el medio ambiente. El cómputo en el borde ha surgido como una solución cada vez más popular a este problema. En este estudio, exploramos la historia del desarrollo del cómputo en el borde y la IA y analizamos el potencial de la cuantización de modelos para vincular la IA y el cómputo en el borde. Nuestro análisis comparativo demuestra que el enfoque de cuantización puede reducir eficazmente el tamaño del modelo y acelerar la inferencia del modelo mientras mantiene su funcionalidad, lo que permite su implementación en dispositivos en el borde. Esta investigación sirve como una guía valiosa y referencia para futuros avances en la IA en el borde.