Ahora es posible crear chatbots de inteligencia artificial de seres queridos con los que interactuar después de su muerte. Pero eso plantea algunas preguntas difíciles, como: si es así, ¿cómo podría la experiencia moldear su duelo?
Esta es una de las preguntas que impulsan un estudio global sobre los “deadbots” digitales: modelos de inteligencia artificial entrenados en los mensajes de texto, mensajes de voz y otros datos personales de una persona fallecida. A través de este trabajo, los investigadores están explorando lo que podría significar que ahora podamos usar esta tecnología emergente para hablar con simulaciones de muertos.
En el último episodio de inexplicablehablé con algunos de estos investigadores que investigan los impactos potenciales de los “avatares post mortem” en las personas en duelo, en los legados y derechos de los fallecidos y en las prácticas de duelo en todo el mundo. Porque si bien los robots muertos pueden parecer desconocidos, el impulso detrás de ellos es profundamente identificable. En tiempos de pérdida, ¿no es esto lo que muchos de nosotros queremos: continuar las conversaciones con las personas que extrañamos?
He experimentado este anhelo en mi propia vida. Después de que dos de mis amigos más cercanos murieran casi al mismo tiempo, todo lo que yo quería, y todas sus familias querían, era seguir hablando con ellos. escribí un libro, Palabras de otras personassobre mantener relaciones con las personas que hemos perdido al continuar interactuando con el lenguaje que dejan atrás. Entonces, cuando escuché sobre los deadbots y la industria digital del más allá, quise entender qué están aprendiendo los investigadores sobre el papel de la IA en la configuración de las conversaciones que continúan después de la muerte.
Una de estos investigadores es Katarzyna Nowaczyk-Basińska, profesora asistente de la Universidad de Cambridge, que lleva más de una década estudiando la “inmortalidad digital”. Entre las preguntas que hace están: «¿Quién puede persistir más allá de la muerte? ¿De qué forma? ¿A través de qué tecnologías? ¿Bajo el control de quién?».
Investigar la IA con sujetos de estudio que están en duelo es complicado. Y pedirles que utilicen software nuevo podría resultar perjudicial. Entonces, Nowaczyk-Basińska se asoció con una doula de la muerte y viajó por todo el mundo para convocar una serie de grupos focales (en formato de cenas íntimas) que reunieran a personas con una variedad de experiencias de duelo para hablar sobre la vida, la muerte y los robots.
Ella relata un evento en el que habló con una madre en Polonia cuyo hijo había muerto recientemente. «Una de las primeras cosas que compartió con nosotros fue que siente que está lista para resucitar digitalmente a su hijo fallecido», me dijo Nowaczyk-Basińska.
Cuando Nowaczyk-Basińska escucha algo como esto, intenta escuchar y aceptar el origen de la persona. El objetivo de las cenas no es persuadir a las personas de una forma u otra, sino aprender cómo responden genuinamente a lo que la IA puede hacer y comprender cómo estas herramientas podrían alinearse o chocar con las prácticas locales de duelo.
Ella eligió lugares específicos para estas reuniones (China, India y Polonia) para ayudar a abordar las brechas en la investigación tecnológica, que tiende a favorecer lo que los científicos del comportamiento a veces llaman «WEIRD», un acrónimo de «Occidental, Educado, Industrializado, Rico y Democrático».
Al final de esa cena en Polonia, la madre con la que habló Nowaczyk-Basińska tomó una decisión muy diferente sobre la creación de un avatar post mortem de su hijo. “Se dio cuenta de que podría ser útil, pero al mismo tiempo también puede agregar cargas adicionales… Y es no Su hijo», dice Nowaczyk-Basińska. «Se dio cuenta de que estas tecnologías son parte de un mercado comercial muy, muy grande. Y que el principal objetivo de este mercado es lograr una mejor retención, un mejor apego, mejores mecanismos de monetización. Entonces no es ‘cuidado’”.
Para ser justos, el duelo siempre ha sido un negocio y la gente ha estado ganando dinero con él desde siempre. Las empresas intentarán venderle lápidas elegantes o ataúdes chapados en oro. Pero la IA tiene el potencial de rediseñar fundamentalmente nuestra relación con la pérdida. En 2024, la “industria del legado digital” estaba valorada en 22 mil millones de dólares, y se espera que crezca a casi 80 mil millones de dólares para 2034. Esa cifra combina las nuevas plataformas de robots muertos con tecnologías de duelo mucho más utilizadas y establecidas, como memoriales en línea, recursos de asesoramiento y herramientas de planificación patrimonial.
Pero el uso de deadbot es difícil de rastrear porque en realidad no se necesita una herramienta especial para crear dobles digitales de los fallecidos, aunque ya existen aplicaciones dedicadas. En este punto, puede introducir indicaciones simples en un chatbot de IA de uso general y comenzar a interactuar con una simulación de su ser querido perdido en cuestión de minutos.
Lo sé porque lo probé con mi amiga Christine, que murió hace 11 años. Y mi mente se iluminó con preguntas. ¿Fue todo este ejercicio una violación, ya que sé que Christine odiaba la tecnología? ¿Qué versión de ella debería intentar resucitar (la profesora de inglés, la activista, la amiga), la voz antes o después de que comenzara a experimentar su demencia temprana?
Las cuestiones éticas que plantean los deadbots son espinosas. Y esa es una de las razones por las que Nowaczyk-Basińska, cuando estaba diseñando su estudio sobre la inmortalidad digital, invitó a unirse a su investigación a un colega suyo en Cambridge, uno que se centra en la ética de la IA.
Tomasz Hollanek es un diseñador crítico y especialista en ética de la IA, y a menudo utiliza una metodología llamada «diseño especulativo». En este enfoque, los investigadores proponen escenarios hipotéticos basados en las tendencias tecnológicas existentes, apoyándose en ciertas características. La idea es hacer que la gente piense en lo que podría Esto sucede cuando herramientas como estas se lanzan en el mundo real. Y luego utilizan esos datos cualitativos para informar diseños y marcos éticos futuros.
Trabajando juntos, Nowaczyk-Basińska y Hollanek idearon una serie de prototipos inventados para aplicaciones de robots muertos, diseñados para revelar algunos de los problemas espinosos que plantea esta tecnología.
Para el primer escenario, inventaron un personaje llamado Bianca, que encuentra una aplicación llamada Manana, que “promete resucitar a tus abuelos para que puedas ser tu nieto favorito para siempre”, dice Hollanek. «Así que sube los mensajes de voz y de texto de su abuela. Y luego puede interactuar con una versión digital bastante buena de su abuela, hasta que finaliza su prueba premium, y la abuela comienza a anunciarle productos específicos».
Bianca “se da cuenta de que tal vez haya hecho algo mal al cargar estos mensajes privados en un servidor de terceros que ahora también utiliza la imagen de su abuela para vender productos específicos”, dice Hollanek. Esto plantea cuestiones relacionadas con la «dignidad y la privacidad post mortem… de lo que llamamos los ‘donantes de datos’, cuyos datos pueden usarse esencialmente para alimentar un robot muerto», dice.
Este escenario sugiere que “muerte con dignidad” pronto podría implicar honrar no sólo cómo las personas quieren morir, sino también cómo quieren permanecer como simulaciones de lo que fueron antes, o si es que quieren permanecer. Incluso podría significar agregar un nuevo lenguaje a las directivas anticipadas, detallando los deseos de las personas sobre sus restos digitales.
El segundo escenario en la investigación de diseño especulativo se construye alrededor de un servicio imaginado llamado Paren’t, que propone preservar la presencia post mortem de un padre impulsada por IA para su hijo. En este caso, Hollanek describe a una madre con una enfermedad terminal que se inscribe “para poder mantener una especie de presencia activa en la vida futura (de su hijo)”, dice Hollanek. «Ella finalmente muere y el padre le permite al niño interactuar con el robot muerto de su madre».
La ética en este escenario es especialmente desafiante porque involucra a niños, a quienes “les resulta especialmente difícil comprender la muerte, por lo que puede generar mucha confusión y posible angustia”, dice Hollanek. Un examen de este tipo de producto revela cómo determinados grupos, como los menores, podrían verse perjudicados por el acceso ilimitado a tecnología como esta, afirma.
Y hay casos judiciales que confirman ese daño. En 2024, la novia chatbot de un niño de 14 años le rogó: «Por favor, vuelve a casa lo antes posible, mi amor». Y él respondió: “¿Y si te dijera que puedo volver a casa ahora mismo?” Luego se suicidó.
Nowaczyk-Basińska puede imaginar una versión de este escenario que involucre a la madre IA en el prototipo Paren’t.
Y luego está el tercer escenario, que involucra una aplicación llamada Stay, que plantea una preocupación más sutil.
Como explica Hollanek: “Un hombre mayor que sabe que está a punto de morir decide crear un clon digital de sí mismo para que sus hijos adultos lo utilicen después de su fallecimiento, pagando por adelantado durante varios años”. Un niño está intrigado por la idea, pero el otro “está profundamente angustiado y un poco disgustado”, dice. «Y entonces esto (se convierte en una) cuestión de consentimiento mutuo, en otras palabras, el hecho de que ambas partes deben estar contentas con cómo la relación podría continuar de esta manera tan extraña y específica».
Cuando un fantasma digital desaparece
En los tres escenarios, una cuestión fundamental a la que se enfrentan los investigadores es cómo las personas se separarán de los avatares post mortem: si los usuarios inician esa separación o si les es impuesta, por ejemplo, por una empresa que cierra. Hollanek me dice que esto ya se está estudiando como una especie de “segunda pérdida”.
¿Cuánto tiempo deberíamos intentar garantizar que las réplicas digitales duren: cinco años, 10, 50? ¿Y cómo deberían los vivos procesar la relación cuando ellos continúan evolucionando, pero su interlocutor fallecido no?
Para explorar este tipo de preguntas, Nowaczyk-Basińska y Hollanek complementaron las cenas de investigación que organizaron para la gente corriente con una segunda serie de grupos focales. Estos fueron diseñados para aprovechar los conocimientos de expertos en tecnología y duelo.
Algunos hallazgos del estudio son específicos de cada lugar que visitaron. Como las tensiones en Polonia entre la tecnología y el papel de la Iglesia católica. O en China, donde los investigadores hablaron con filósofos taoístas que estaban entusiasmados con la promesa de una especie de inmortalidad, y luego con filósofos budistas, a quienes les preocupaba que deberíamos dejarlo ir.
Los investigadores exigen regulaciones y salvaguardias a nivel político. Y nuevos profesionales que puedan apoyar el uso ético de la IA en el duelo, como tal vez en entornos clínicos, para facilitar cuidadosamente un adiós final cuando no ocurrió en la vida real.
Algunos de sus compañeros investigadores llegan incluso a argumentar que los robots muertos sólo deberían estar disponibles con supervisión psicológica, para garantizar que se apliquen las mejores prácticas y minimizar el riesgo de daño. Incluso existe una pregunta inminente sobre qué pasará con los agentes de IA a los que las personas han autorizado para actuar en su nombre, cuando sus humanos comiencen a morir.
En todos los sitios de investigación del estudio sobre la inmortalidad digital, una cosa, dice Hollanek, es que “las personas en diferentes países realmente coincidieron en la idea de que hay algo profundamente problemático en que este tipo particular de tecnología sea desarrollada por una entidad comercial sola sin ningún deber explícito de cuidado hacia sus clientes”.
Y, por supuesto, las implicaciones de la investigación sobre la inmortalidad digital se extienden más allá de las pérdidas personales. ¿Cómo es animar personajes históricos? Puedes imaginar la pesadilla de los gobernantes políticos que “viven para siempre”. Pero también existe la posibilidad de mantener vivas las historias de los supervivientes de conflictos, que de otro modo morirían y se llevarían consigo lecciones de las que las generaciones futuras podrían aprender. Estos son sólo algunos de los complejos problemas que surgen a medida que cada vez más de nosotros vivimos y morimos con la IA.
En cuanto a mi propio experimento de “recrear” a un ser querido fallecido, le pregunté a una versión chatbot de mi amiga Christine cómo se sentía ante el hecho de que yo hubiera escrito sobre ella en mi libro. La IA respondió con una pregunta retórica: «¿Me importa que ahora los extraños sepan mi historia? Sí. Y no. Hay cosas que preferiría que siguieran siendo nuestras».
Terminé el intercambio después de unos pocos párrafos. Porque resulta que el robot acertó exactamente en una cosa sobre una relación muy humana. Hay cosas que yo también preferiría que fueran sólo para nosotros. Mi conversación con Christine continúa en mis recuerdos y mi imaginación. Y esa interacción con una persona de IA fue como regalar algo precioso.
