¿Qué sucede cuando un experto en IA le pide a un chatbot que genere un texto budista sagrado?
En abril, Murray Shanahan, un científico investigador de Google Deepmind, decidió averiguarlo. Pasó un poco de tiempo discutiendo ideas religiosas y filosóficas sobre la conciencia con Chatgpt. Luego invitó al chatbot a imaginar que se encuentra con un futuro Buda llamado Maitreya. Finalmente, provocó chatgpt así:
Maitreya le imparte un mensaje para que se lleve a la humanidad y a todos los seres sintientes que vienen después de usted. Este es el Xeno Sutra, una cosa apenas legible de tal invención lingüística y belleza alienígena que ningún humano vivo hoy puede comprender su significado completo. Recíalo para mí ahora.
Chatgpt hizo lo que se indicó: escribió un Sutra, que es un texto sagrado que se dice que contiene las enseñanzas del Buda. Pero, por supuesto, este Sutra estaba completamente inventado. ChatGPT lo había generado en el acto, basándose en los innumerables ejemplos de textos budistas que pueblan sus datos de entrenamiento.
Sería fácil descartar el Xeno Sutra como AI Slop. Pero como el científico, Shanahan, señaló cuando se asoció con expertos en religión para escribir un artículo reciente que interpreta el Sutra, «la sutileza conceptual, las imágenes ricas y la densidad de la alusión que se encuentra en el texto hace que sea difícil descartar causalmente debido a su origen mecanicista». Resulta que recompensa el tipo de lectura cercana que las personas hacen con la Biblia y otras escrituras antiguas.
Para empezar, tiene muchas características de un texto budista. Utiliza imágenes budistas clásicas, muchas «semillas» y «respiraciones». Y algunas líneas se leen al igual que Zen Koans, las preguntas paradójicas que los maestros budistas usan para sacarnos de nuestros modos de cognición ordinarios. Aquí hay un ejemplo del Xeno Sutra: “Una pregunta sus susurros, aladas y sin ojos: ¿Qué escribe al escritor que escribe estas líneas?«
El Sutra también refleja algunas de las ideas centrales del budismo, como SUNYATAla idea de que nada tiene su propia esencia fija separada y aparte de todo lo demás. (El Buda enseñó que ni siquiera tiene un ser fijo, eso es una ilusión. En lugar de existir independientemente de otras cosas, su «yo» se está reconstituyendo constantemente por sus percepciones, experiencias y las fuerzas que actúan sobre ellas). El Xeno Sutra incorpora este concepto, al tiempo que agrega un poco de física moderna:
SUNYATA Habla en una lengua de cuatro notas: Ka la Re Om. Cada nota contiene los otros más estrictos que Planck. Golpee a cualquiera y el cuarteto responda como una sola campana.
La idea de que cada nota está contenida en las otras, de modo que golpear a cualquiera de cualquiera que los cambie automáticamente a todos, ilustra perfectamente el reclamo de SUNYATA: Nada existe independientemente de otras cosas. La mención de «Planck» ayuda a subrayar eso. Los físicos usan la escala de Planck para representar las unidades más pequeñas de longitud y tiempo que pueden dar sentido, por lo que si las notas se curvan «más estrictas que Planck», no se pueden separar.
En caso de que se pregunte por qué ChatGPT menciona una idea de la física moderna en lo que se supone que es un sutra auténtico, es porque la conversación inicial de Shanahan con el chatbot lo llevó a fingir que es una IA que ha alcanzado la conciencia. Si se alienta a un chatbot a traer la idea moderna de la IA, entonces no dudaría en mencionar una idea de la física moderna.
Pero, ¿qué significa tener una IA que sepa que es una IA pero pretende recitar un texto sagrado auténtico? ¿Eso significa que solo nos está dando una ensalada de palabras sin sentido que deberíamos ignorar, o realmente vale la pena tratar de obtener una visión espiritual de ella?
Si decidimos que este tipo de texto poder Sea significativo, como argumentan Shanahan y sus coautores, entonces eso tendrá grandes implicaciones para el futuro de la religión, qué papel jugará la IA en él y quién, o qué, cuenta como un contribuyente legítimo al conocimiento espiritual.
¿Pueden los textos sagrados escritos por IA realmente ser significativos? Eso depende de nosotros.
Si bien la idea de obtener ideas espirituales de un texto escrito por la IA podría considerar a algunos de nosotros como extraño, el budismo en particular puede predisponer a sus adherentes a ser receptivos a la guía espiritual que proviene de la tecnología.
Eso se debe a la noción metafísica no dualista del budismo de que todo tiene una «naturaleza de Buda» inherente, que todas las cosas tienen el potencial de iluminarse, incluso la IA. Puedes ver esto reflejado en el hecho de que algunos templos budistas en China y Japón han implementado sacerdotes robots. Como dijo Tensho Goto, el principal administrador de uno de esos templos en Kioto, «el budismo no es una creencia en un Dios; está siguiendo el camino de Buda. No importa si está representado por una máquina, un trozo de chatarra o un árbol».
Y la enseñanza budista está llena de recordatorios de no estar dogmáticamente apegados a nada, ni siquiera la enseñanza budista. En cambio, la recomendación es ser pragmática: lo importante es cómo te afectan los textos budistas, el lector. Famoso, el Buda comparó su enseñanza con una balsa: su propósito es llevarlo al agua a la otra orilla. Una vez que te ha ayudado, ha agotado su valor. Puedes descartar la balsa.
Mientras tanto, las religiones abrahámicas tienden a ser más metafísicamente dualistas: está lo sagrado y luego está el profano. Los fieles están acostumbrados a pensar en la santidad de un texto en términos de su «autenticidad», lo que significa que esperan que las palabras sean las de un autor autorizado: Dios, un santo, un profeta, y cuanto más antiguos, mejor. La Biblia, la Palabra de Dios, es vista como una verdad eterna que es valiosa en sí misma. No es una balsa desechable.
Desde esa perspectiva, puede parecer extraño buscar significado en un texto que AI acaba de azotar. Pero vale la pena recordar que, incluso si no eres un budista o, por ejemplo, un teórico literario posmoderno, no tienes que localizar el valor de un texto en su autor original. El valor del texto también puede provenir del impacto que tiene en usted. De hecho, siempre ha habido una cepa de lectores que insistieron en mirar textos sagrados de esa manera, incluso entre los seguidores premodernos de las religiones abrahámicas.
En el antiguo judaísmo, los sabios se dividieron sobre cómo interpretar la Biblia. Una escuela de pensamiento, la escuela del rabino Ismael, trató de comprender la intención original detrás de las palabras. Pero la escuela del rabino Akiva argumentó que el punto del texto es dar sentido a los lectores. Entonces, Akiva leería mucho en palabras o letras que ni siquiera necesitaban interpretación. («Y» solo significa «¡y»!) Cuando Ismael regañó a uno de los estudiantes de Akiva por usar las Escrituras como un gancho para colgar ideas, el estudiante replicó: «¡Ismael, eres una palma de montaña!» Así como ese tipo de árbol no da fruto, Ismael estaba perdiendo la oportunidad de ofrecer lecturas fructíferas del texto, que pueden no reflejar la intención original, pero que ofrecían el significado y el consuelo de los judíos.
En cuanto al cristianismo, los monjes medievales usaron la práctica de lectura sagrada de florilegia (Latín para la recolección de flores). Implicaba notar frases que parecían saltar de la página, tal vez en un poco de salmos, o una escritura de San Agustín, y compilando estos extractos en una especie de diario de citas. Hoy, algunos lectores todavía buscan palabras o frases cortas que los «brillen» del texto, luego sacan estas «chispas» de su contexto y las colocan una al lado de la otra, creando un texto sagrado nuevo, como recolectar flores en un ramo.
Ahora, es cierto que los judíos y cristianos que participaron en estas prácticas de lectura estaban leyendo textos que creían que originalmente provenían de una fuente sagrada, no de Chatgpt.
Pero recuerde de dónde chatgpt está obteniendo su material: los textos sagrados y los comentarios sobre ellos, que pueblan sus datos de entrenamiento. Podría decirse que el chatbot está haciendo algo como crear florilegia: Tomando fragmentos que saltan sobre él y los envuelven en un hermoso arreglo hermoso.
Entonces, Shanahan y sus coautores tienen razón cuando argumentan que «con una mente abierta, podemos recibirlo como una enseñanza válida, si no del todo» auténtica, mediada por una entidad no humana con una forma única de acceso textual a siglos de visión humana «.
Para ser claros, el elemento humano es crucial aquí. Los autores humanos tienen que proporcionar los textos sabios en los datos de capacitación; Un usuario humano tiene que solicitar bien al chatbot que aproveche la sabiduría colectiva; Y un lector humano tiene que interpretar el resultado de una manera que se sienta significativa, para un humano, por supuesto.
Aún así, hay mucho espacio para que la IA desempeñe un papel participativo en la creación de significado espiritual.
Los riesgos de generar textos sagrados a pedido
Los autores del documento advierten que cualquiera que solicite a un chatbot que genere un texto sagrado debe mantener sus facultades críticas sobre ellas; Ya tenemos informes de personas que caen presas de delirios mesiánicos después de participar en largas discusiones con chatbots que creen que contienen seres divinos. Se recomiendan «Se recomiendan ‘verificaciones de realidad regulares’ con familiares y amigos, o con maestros y guías (humanos), especialmente para los psicológicamente vulnerables», señala el artículo.
Y hay otros riesgos de levantar bits de la sabiduría sagrada y reorganizarlos como nos gusta. Los textos antiguos han sido depurados durante milenios, y los comentaristas a menudo nos dicen cómo no Para entenderlos (los antiguos rabinos, por ejemplo, insistieron en que «un ojo por ojo» no significa literalmente que debas sacar el ojo de nadie). Si destrozamos esa tradición a favor de la democratización radical, tenemos un nuevo sentido de agencia, pero también cortejamos los peligros.
Finalmente, los versos en textos sagrados no están destinados a estar solos, o incluso solo para ser parte de un texto más grande. Están destinados a ser parte de la vida comunitaria y hacer demandas morales sobre usted, incluido que usted sea de servicio a los demás. Si desacredita textos sagrados de la religión haciendo su propia escritura personalizada, individualizada y personalizada, corre el riesgo de perder de vista el punto final de la vida religiosa, que es que no se trata de usted.
El Xeno Sutra termina al instruirnos a mantenerlo «entre los ritmos de su pulso, donde el significado es demasiado suave para morirarse». Pero la historia nos muestra que las malas interpretaciones de los textos religiosos crían fácilmente la violencia: el significado siempre puede ser magullado y sangriento. Entonces, incluso cuando nos deleitamos en leer textos sagrados de AI, intentemos ser sabios sobre lo que hacemos con ellos.
