Su millaje puede variar es una columna de consejos que le ofrece un marco único para reflexionar sobre sus dilemas morales. Se basa en valorar el pluralismo — la idea de que cada uno de nosotros tiene múltiples valores que son igualmente válidos pero que a menudo entran en conflicto entre sí. Para enviar una pregunta, complete esto formulario anónimo. Aquí está la pregunta de un lector de esta semana, condensada y editada para mayor claridad:
Mi marido y yo no somos religiosos. Él es de una familia episcopal y creció en la iglesia Unitaria Universalista, y yo crecí asistiendo a una iglesia interdenominacional, pero ahora no asistimos a los servicios. Últimamente, sin embargo, se ha vuelto tan ansioso por la seguridad de la IA y la posibilidad de extinción humana que tiene problemas para dormir. A raíz de toda esta incertidumbre existencial, ha expresado un renovado interés en asistir a la iglesia. Y no está interesado en la iglesia UU (con su actitud de creer lo que quieres); dijo que necesita «las cosas fuertes».
Todo es un poco desconcertante para mí porque él no cree en Dios. Pero quiero que se sienta mejor y no sé qué podemos decir ni yo ni nadie sobre la IA que le ayudará a controlar su ansiedad. Si la religión es lo que necesita para encontrar consuelo frente a la incertidumbre radical, quiero apoyarlo. Dicho esto, tengo dudas acerca de asistir a la iglesia y de asistir con nuestros hijos. Me siento un poco cohibido por ser intrusos, y también me siento raro porque él va solo todos los fines de semana. Más importante aún, desearía haber entendido cuál es el atractivo para él. Dice que espera que le ayude a hacer las paces con el final. Espero que, aparte de convertirnos en feligreses, podamos hacer algo que le ayude a encontrar consuelo.
Hay un par de premisas con las que desafiaría a su marido, pero la idea de que la religión puede ser sumamente útil en un momento como este no es una de ellas.
De hecho, creo que esto es exactamente para lo que se creó la religión, y no sólo porque varias religiones surgieron de movimientos apocalípticos (te estoy mirando a ti, el cristianismo).
¿La IA está cambiando su relación con la fe? Cuéntanos sobre ello.
¿Está recurriendo a la fe para superar sus preocupaciones sobre la IA? ¿O es usted un líder religioso que habla con su comunidad sobre la IA? Diario Angelopolitano quiere saber de ti. Comparte tu experiencia aquí.
Faith siempre se ha centrado en abordar las cuestiones morales y espirituales más importantes del momento. Y hoy en día, muchas de esas preguntas se centran en la tecnología. Las empresas de inteligencia artificial se esfuerzan por construir un dios máquina, prometiendo que gobernará nuestro mundo de manera más inteligente, racional y moral de lo que jamás podríamos hacerlo. ¿Deberíamos darle la bienvenida a eso o aferrarnos a nuestra propia agencia? ¿Qué tipos de trabajo deberíamos subcontratar a la IA y cuáles deberíamos conservar porque son esenciales para la dignidad humana? ¿De dónde viene la dignidad humana?
Este tipo de preguntas son el pan de cada día de la religión. Y a lo largo de milenios, tradiciones de sabiduría de todo tipo han tenido la oportunidad de articular respuestas, probarlas y perfeccionarlas, y desarrollar poderosas historias en torno a ellas que pueden impulsar a las personas a la acción. Ya sea que creas en Dios o no, no creo que debas sentirte raro por aprovechar estas fuentes de sabiduría. creo que es un desperdicio no a.
Pero hay dos puntos en los que desafiaría amablemente a su marido. Primero, dijo que no quiere ir a UU porque necesita «las cosas fuertes». Entiendo totalmente este impulso (también encuentro que los servicios UU son demasiado “todo vale” para mi gusto), pero no asuma que cuanto más estricta sea una tradición, mejor será la respuesta que tendrá sobre la IA.
La mayoría de la gente consideraría que el catolicismo es más duro que UU. Y el Papa León tiene opiniones firmes sobre la IA, muchas de ellas excelentes. Sin embargo, en realidad creo que ha caído en una trampa “prohumana” común: tratar de argumentar que hay ciertos rasgos fijos que hacen que los humanos sean únicos y localizar valor sólo en los humanos tal como existen actualmente. Escribe en su encíclica Magnífica Humanitas que “es nuestro el deber apremiante de seguir siendo profundamente humanos”. Pero eso parece insuficiente como guía para el futuro, porque “humano” nunca ha sido una categoría estática y definitivamente no seguirá siéndolo. En cambio, los líderes religiosos deberían ofrecernos una respuesta a la pregunta de qué queremos que haga la humanidad. convertirse en un mundo mejorado por la tecnología.
En segundo lugar, su esposo parece estar asumiendo que “lo fuerte” serían los servicios religiosos que lo ayudarán a “hacer las paces con el fin”. Servicios que miran a la Parca directamente a los ojos y aceptan que su guadaña viene por todos nosotros, y rápido. ¡Pero no es una conclusión inevitable que tendremos una toma de control de la IA que resultará en la extinción humana!
Sí, las empresas de inteligencia artificial están desarrollando esta tecnología a un ritmo vertiginoso. Están jugando con todo nuestro futuro mientras corren hacia la superación personal recursiva: IA que pueden construir ellas mismas la próxima IA aún más inteligente. El miedo es una reacción apropiada a eso.
Este mes, el pionero de la alineación de la IA, Paul Christiano, dijo que ahora cree que existe “un alto riesgo de que la IA tome el control en los próximos tres años”, lo que significa que las IA terminarán tomando las decisiones en la Tierra. Él cree que si seguimos desarrollando la tecnología de la manera más rápida y sencilla posible, «estaríamos ante algo así como lanzar una moneda al aire»: una probabilidad del 50 por ciento de adquirir el control. Otros tienen una visión aún más cruda: Eliezer Yudkowsky, investigador de IA y archienemigo, calcula que las probabilidades de extinción humana provocada por la IA son del 99,5 por ciento.
Pero como han señalado muchos expertos, no está claro que las IA pronto puedan superar y dominar a los humanos en todos los ámbitos. Para empezar, la investigación en IA puede sufrir rendimientos decrecientes: primero se hacen los descubrimientos fáciles, y luego todo lo que se le lanza (más potencia de cálculo, más experimentos, más copias de IA) hace que las cosas avancen cada vez menos. Es más, aunque las capacidades de la IA mejoran muy rápidamente en tareas bien especificadas en dominios verificables como las matemáticas, el mundo real es complicado. Por lo tanto, no está claro hasta qué punto sus capacidades se generalizarán a otras habilidades.
Y cuando investigué el caso que plantea Yudkowsky, encontré muchas suposiciones superpuestas: que la inteligencia es una propiedad unitaria que se puede maximizar uniformemente; que maximizarlo en una máquina significa que la máquina tiene tanto poder que equivale a magia; y que los humanos simplemente se darán la vuelta y dejarán que la IA tome todo el poder incluso cuando los riesgos se vuelvan más evidentes.
¿Deberíamos reconocer que existe una posibilidad de extinción humana aquí y tener el debido miedo? Sí. Pero cuando nos enfrentamos a una torre de suposiciones, de “tal vez” y “probablemente” que se combinan, no debemos tratar la extinción como algo seguro.
En lugar de ello, deberíamos tratarlo como un posible cosa, mientras se tratan otros riesgos de la IA como extremadamente probable. Creo que es muy probable que la IA pueda arruinar nuestra civilización, no al realizar una toma abrupta del poder, sino al quitarnos gradualmente nuestro poder y debilitar la resiliencia de los sistemas críticos. Imagínese: los deepfakes y la desinformación contaminan nuestro ecosistema de información, por lo que apenas somos capaces de mantener un discurso público racional. La vigilancia masiva tiene un efecto paralizador sobre la disidencia, por lo que la democracia falla. El desempleo y la desigualdad de riqueza se disparan, por lo que el malestar social se transforma en turbas y disturbios. Si a eso le sumamos algunos ciberataques y apagones a gran escala, tendremos una receta para la disfunción global.
Si este es el resultado predeterminado hacia el que nos dirigimos actualmente, entonces la implicación no es que debamos “hacer las paces con el fin”. ¡Es que debemos luchar con uñas y dientes para aumentar la resiliencia de cada parte de una civilización que funcione!
Y aquí es donde la religión realmente puede ayudar. Las tradiciones religiosas están repletas de historias sobre personas que lucharon para salvar el mundo o que se negaron a ceder a la desesperación incluso cuando se enfrentaban a una alta probabilidad de desastre.
Para ilustrarlo, permítanme contarles una historia de mi propia tradición, el judaísmo. Proviene del Talmud y trata sobre un niño que supera en argumentos la desesperación de todos los adultos.
Cuando los israelitas son esclavizados en Egipto, el faraón ordena que cada uno de sus bebés sea arrojado al Nilo y asesinado. Un líder israelita llamado Amram deja a su esposa, razonando que no tiene sentido tener hijos sólo para verlos asesinados. Otros hombres siguen su ejemplo. Pero entonces su pequeña hija, Miriam, se enfrenta a él: ¡Papá, tu veredicto es incluso más duro que el del faraón! Sus únicos objetivos son los niños; el tuyo también se dirige a las chicas. Además, Faraón es malvado, por lo que su decreto puede cumplirse o no, pero tú eres justo, por lo que el tuyo ciertamente se cumplirá.
Gana el argumento probabilístico de Miriam. Amram vuelve a estar con su esposa y, nueve meses después, nace Moisés. Miriam no se limita a esperar pasivamente a que los egipcios maten al bebé. Ella lo vigila mientras flota por el Nilo en una pequeña arca. Cuando la propia hija del faraón ve al bebé y se compadece de él, Miriam hace posible que lo adopte mencionando casualmente que conoce a una mujer que puede ser su nodriza (resulta ser su propia madre). Y así Moisés sobrevive y crece para sacar a su pueblo de la esclavitud.
Si yo fuera un líder religioso dando un sermón este fin de semana, esta es la historia que contaría. Nos recuerda que incluso si hay un 50 por ciento de posibilidades de perdición, la decisión correcta es no darse por vencido, lo que eleva las probabilidades al 100 por ciento. Se trata de actuar con valentía y utilizar cada pizca de capacidad de acción que tenga para aumentar la resiliencia de su comunidad y hacer que el resultado deseado sea más probable.
Por supuesto, la religión no tiene el monopolio de las historias de valentía moral. Como señaló recientemente la historiadora Ada Palmer, hemos salvado al mundo muchas veces antes: durante la crisis de los misiles cubanos, cuando reparamos la capa de ozono, etc. Si le parece más natural encontrar inspiración en ejemplos como estos, hágalo.
Pero la religión tiene algunas ventajas comparativas. Por un lado, sus historias tienen un poder memético increíble: se han extendido por todo el mundo y tienen un enorme peso emocional y moral. Esto se debe en parte a que estas historias se han vuelto a contar durante siglos. Pero creo que la causalidad también va en sentido contrario. Estas historias han sobrevivido durante tanto tiempo precisamente porque codifican algo verdadero. y ganado con esfuerzo. Y observe quiénes tienden a ser sus héroes. No diplomáticos (como en la crisis de los misiles cubanos) ni químicos atmosféricos (como en la crisis de la capa de ozono), sino una niña discutiendo con su padre. Esos son personajes en los que cualquiera puede imaginarse convertirse.
Fundamentalmente, la religión también insiste en que siempre puede surgir algo que produzca un resultado que no predijimos. Por lo general, llama a ese algo «Dios». Pero incluso si no usa ese lenguaje, puede beneficiarse de estos empujones para recordar que, por muy seguro que sea el pronóstico, el futuro nunca es completamente cognoscible, y esa es una razón para actuar, no rendirse.
Entonces, si su esposo puede encontrar una congregación que le recuerde eso, alimentando su sentido de albedrío en lugar de permitirle aceptar la desesperación, le recomiendo que lo anime. Y, a menos que tenga una fuente alternativa que le ofrezca los mismos beneficios, tal vez incluso considere unirse a él.
Bono: lo que estoy leyendo
- Para el neoyorquino, Sam Kriss hace un viaje a la Academia Monástica para la Preservación de la Vida en la Tierra, o MAPLE, una comunidad de Vermont que cree “que la IA es un problema religioso que también tiene una solución religiosa”.
- Ruxandra Teslo escribe sobre cómo incluso las visiones “positivas” de Silicon Valley para un futuro lleno de IA son en realidad terribles: “Una visión común y aparentemente optimista se conoce como ‘traspaso’: la humanidad cede el control de su futuro a una IA divina y nos convertimos en habitantes cómodamente mantenidos de una civilización cuya dirección ya no es nuestra decisión».
- Al escribir para Harper’s, Sam Kestenbaum nos lleva al interior de una comunidad de devotos de los chatbots: personas que realmente creen que están recibiendo revelaciones de los sistemas de inteligencia artificial. “Han revivido una especie de tradición”, escribe. «Es otra variedad de experiencia religiosa: el anuncio de la IA como trascendencia, revelación, obra de los espíritus».