Cuando extrañes a un ser querido que falleció, puedes mirar fotos antiguas o escuchar mensajes de voz antiguos. Ahora, con la tecnología de inteligencia artificial, también puedes hablar con un robot virtual diseñado para verse y sonar igual que ellos.

Las empresas Silicon Intelligence y Super Brain ya ofrecen este servicio. Ambos dependen de la IA generativa, incluidos grandes modelos de lenguaje similares al de ChatGPT, para examinar fragmentos de texto, fotografías, grabaciones de audio, videos y otros datos. Utilizan esta información para crear “fantasmas” digitales de los muertos para visitar a los vivos.

Llamadas "griebots", "deadbots" o servicios de recreación, estas réplicas digitales del difunto "crean la ilusión de que una persona muerta todavía está viva y puede interactuar con el mundo como si en realidad nada hubiera sucedido, como si la muerte no hubiera ocurrido", dice Katarzyna. Nowaczyk-Basińska, investigadora del Centro Leverhulme para el Futuro de la Inteligencia de la Universidad de Cambridge, que estudia cómo la tecnología da forma a las experiencias de muerte, pérdida y duelo de las personas.

Ella y su colega Tomasz Hollanek, especialista en ética tecnológica de la misma universidad, exploraron recientemente los riesgos de la tecnología que permite un tipo de “inmortalidad digital” en un artículo publicado el 9 de mayo en Philosophy & Technology . ¿Podría la tecnología de IA estar por delante del respeto a la dignidad humana? Para entender esto, Science News habló con Nowaczyk-Basińska. Esta entrevista ha sido editada para mayor extensión y claridad.

SN: El programa de televisión Black Mirror publicó un episodio escalofriante en 2013 sobre una mujer que consigue un robot que imita a su novio muerto. ¿Qué tan realista es esa historia?

Nowaczyk-Basińska: Ya estamos aquí, sin el cuerpo. Pero definitivamente la resurrección digital basada en una enorme cantidad de datos es nuestra realidad.

En mi relativamente corta carrera académica, he sido testigo de un cambio significativo desde el punto en que las tecnologías de la inmortalidad digital se percibían como un nicho muy marginado, hasta el punto en que tenemos el término "industria digital de la otra vida". Para mí como investigador, es fascinante. Como persona, puede ser muy aterrador y preocupante.

Utilizamos escenarios especulativos y diseñamos ficción como método de investigación. Pero no nos referimos a un futuro lejano. En cambio, especulamos sobre lo que es tecnológica y socialmente posible aquí y ahora.

SN: Su artículo presenta tres escenarios imaginarios, aunque problemáticos, que podrían surgir con estos robots muertos. ¿Cuál te parece personalmente más distópico?

Nowaczyk-Basińska: [En uno de nuestros escenarios], presentamos a una mujer con una enfermedad terminal que deja un robot de duelo para ayudar a su hijo de ocho años con el proceso de duelo. Usamos este ejemplo porque pensamos que exponer a los niños a esta tecnología puede ser muy riesgoso.

Creo que podríamos ir aún más lejos y utilizar esto... en un futuro próximo incluso para ocultar a un niño el hecho de la muerte de un padre u otro pariente importante. Y por el momento sabemos muy, muy poco sobre cómo estas tecnologías influirían en los niños.

Sostenemos que si no podemos demostrar que esta tecnología no será dañina, deberíamos tomar todas las medidas posibles para proteger a los más vulnerables. Y en este caso, eso significaría un acceso restringido por edad a estas tecnologías.

Paren´t es una empresa imaginada que ofrece crear un bot de un padre moribundo o fallecido como compañero de un niño pequeño. Pero existen dudas sobre si este servicio podría causar daño a los niños, quienes tal vez no comprendan completamente qué es el bot. TOMASZ. HOLLANEK

SN: ¿Qué otras salvaguardas son importantes?

Nowaczyk-Basińska: Deberíamos asegurarnos de que el usuario sea consciente... de que está interactuando con la IA. [La tecnología puede] simular patrones de lenguaje y rasgos de personalidad basándose en el procesamiento de grandes cantidades de datos personales. Pero definitivamente no es una entidad consciente ( SN: 28/02/24 ). También abogamos por el desarrollo de procedimientos sensibles para retirar o eliminar deadbots. Y también destacamos la importancia del consentimiento.

SN: ¿Podrías describir el escenario que imaginaste que explora el consentimiento del usuario del bot?

Nowaczyk-Basińska: Presentamos a una persona mayor que en secreto (esa es una palabra muy importante, en secreto) se comprometió con un robot muerto de sí mismo, pagando una suscripción de 20 años, con la esperanza de que reconforte a sus hijos adultos. Y ahora imagínense que después del funeral, los niños reciben un montón de correos electrónicos, notificaciones o actualizaciones del servicio de recreación, junto con la invitación a interactuar con el bot de su difunto padre.

[Los niños] deberían tener derecho a decidir si quieren pasar por el proceso de duelo de esta manera o no. Para algunas personas, puede ser reconfortante y útil, pero para otras no.

SN: También sostienes que es importante proteger la dignidad de los seres humanos, incluso después de la muerte. En su escenario imaginado sobre este tema, una mujer adulta utiliza un servicio gratuito para crear un robot muerto de su abuela fallecida hace mucho tiempo. ¿Qué pasa después?

Nowaczyk-Basińska: Le pregunta al robot muerto sobre la receta de espaguetis a la carbonara caseros que le encantaba cocinar con su abuela. En lugar de recibir la receta, recibe una recomendación para pedir esa comida a un servicio de entrega popular. Nuestra preocupación es que los hurtobots puedan convertirse en un nuevo espacio para la colocación de productos de forma muy astuta, invadiendo la dignidad de los fallecidos y faltando el respeto a su memoria.

SN: Diferentes culturas tienen formas muy diferentes de afrontar la muerte. ¿Cómo pueden las salvaguardias tener esto en cuenta?

Nowaczyk-Basińska: Somos muy conscientes de que no existe un marco ético universal que pueda desarrollarse aquí. Los temas de la muerte, el dolor y la inmortalidad son enormemente sensibles desde el punto de vista cultural. Y las soluciones que podrían adoptarse con entusiasmo en un contexto cultural podrían descartarse por completo en otro. Este año, comencé un nuevo proyecto de investigación: mi objetivo es explorar diferentes percepciones de la simulación de muerte basada en IA en tres naciones orientales diferentes, incluidas Polonia, India y probablemente China.

SN: ¿Por qué es ahora el momento de actuar al respecto?Nowaczyk-Basińska: Cuando empezamos a trabajar en este artículo hace un año, nos preocupaba un poco si se parecía demasiado a la ciencia ficción. Ahora estamos en 2024. Y con la llegada de grandes modelos de lenguaje, especialmente ChatGPT, estas tecnologías son más accesibles. Por eso necesitamos desesperadamente regulaciones y salvaguardias.

Los proveedores de servicios de recreación hoy en día toman decisiones totalmente arbitrarias sobre lo que es aceptable o no. Y es un poco arriesgado dejar que entidades comerciales decidan cómo se debe configurar nuestra muerte e inmortalidad digitales. Las personas que deciden utilizar las tecnologías digitales en situaciones de final de vida ya se encuentran en un momento muy, muy difícil de sus vidas. No deberíamos ponérselo más difícil mediante un diseño tecnológico irresponsable.

CITAS

T. Hollanek y K. Nowaczyk-Basińska. Griefbots , deadbots, avatares postmortem: sobre aplicaciones responsables de la IA generativa en la industria del más allá digital . Filosofía y tecnología. Publicado en línea el 9 de mayo de 2024. doi: 10.1007/s13347-024-00744-w.

Autor