Desde que existe la IA, los humanos han tenido temores en torno a la IA y las armas nucleares. Y las películas son un gran ejemplo de esos miedos. Skynet de la terminador La franquicia se vuelve sensible y dispara misiles nucleares a Estados Unidos. WOPR de Juegos de guerra Casi inicia una guerra nuclear debido a una falta de comunicación. El reciente lanzamiento de Kathryn Bigelow, Casa de dinamitapregunta si AI está involucrada en un ataque con misiles nucleares dirigido a Chicago.
La IA ya está en nuestra empresa nuclear, dice Josh Keating de Diario Angelopolitano Hoy, explicado coanfitrión Noel King. «Las computadoras han sido parte de esto desde el principio», dice. «Algunas de las primeras computadoras digitales jamás desarrolladas se utilizaron durante la construcción de la bomba atómica en el Proyecto Manhattan». Pero no sabemos exactamente dónde ni cómo está involucrado.
Entonces ¿debemos preocuparnos? Bueno, tal vez, sostiene Keating. Pero no que la IA se vuelva contra nosotros.
A continuación se muestra un extracto de su conversación, editado para mayor extensión y claridad. Hay mucho más en el episodio completo, así que escuche Hoy, explicado dondequiera que obtenga podcasts, incluidos Apple Podcasts, Pandora y Spotify.
Hay una parte en Una casa de dinamita donde están tratando de descubrir qué sucedió y si la IA está involucrada. ¿Estas películas con estos miedos tienen algo que ver?
Lo interesante de las películas, cuando se trata de guerra nuclear, es: este es un tipo de guerra que nunca se ha librado. No hay ningún tipo de veterano de las guerras nucleares aparte de las dos bombas que lanzamos sobre Japón, lo cual es un escenario muy diferente. Creo que las películas siempre han desempeñado un papel enorme en los debates sobre las armas nucleares. Podemos remontarnos a los años 60, cuando el Comando Aéreo Estratégico produjo su propia refutación a Dr. amor extraño y A prueba de fallos. En los años 80, esa película para televisión Otro Fue una especie de fuerza galvanizadora para el movimiento de congelación nuclear. El presidente (Ronald) Reagan aparentemente quedó muy perturbado cuando lo vio, e influyó en su pensamiento sobre el control de armas con la Unión Soviética.
En el tema específico que estoy analizando, que es la inteligencia artificial y las armas nucleares, ha habido una sorprendente cantidad de películas que tienen eso como trama. Y surge mucho en los debates políticos sobre este tema. He tenido personas que defienden la integración de la IA en el sistema de mando nuclear y han dicho: «Mira, esto no va a ser Skynet». El general Anthony Cotton, actual comandante del Comando Estratégico, que es la rama del ejército responsable de las armas nucleares, aboga por un mayor uso de las herramientas de inteligencia artificial. Se refirió a la película WarGames de 1983 y dijo: «Vamos a tener más IA, pero no habrá un WOPR en el mando estratégico».
Donde creo que (las películas) se quedan un poco cortas es en el temor de que una IA súper inteligente se apodere de nuestras armas nucleares y las utilice para acabar con nosotros. Por ahora, esa es una preocupación teórica. Lo que creo que es la preocupación más real es que a medida que la IA entra en más y más partes del sistema de mando y control, ¿los seres humanos a cargo de las decisiones para fabricar armas nucleares realmente entienden cómo funcionan las IA? ¿Y cómo afectará la forma en que toman estas decisiones, que podrían ser (sin exagerar al decirlo) algunas de las decisiones más importantes jamás tomadas en la historia de la humanidad?
¿Los seres humanos que trabajan en armas nucleares entienden la IA?
No sabemos exactamente dónde se encuentra la IA en la empresa nuclear. Pero la gente se sorprenderá al saber cuán baja tecnología era realmente el sistema de comando y control nuclear. Hasta 2019 utilizaban disquetes para sus sistemas de comunicación. Ni siquiera me refiero a los pequeños de plástico que se parecen al ícono de guardar en Windows. Quiero decir, los viejos flexibles de los 80. Quieren que estos sistemas estén a salvo de interferencias cibernéticas externas, por lo que no quieren que todo esté conectado a la nube.
Pero como está en marcha este proceso de modernización nuclear multimillonario, una gran parte de eso es actualizar estos sistemas. Y varios comandantes de StratCom, incluido un par con el que hablé, dijeron que creen que la IA debería ser parte de esto. Lo que todos dicen es que la IA no debería ser la encargada de tomar la decisión sobre si lanzamos armas nucleares. Piensan que la IA puede analizar cantidades masivas de información y hacerlo mucho más rápido que las personas. Y si has visto Una casa de dinamitauna cosa que la película muestra muy bien es la rapidez con la que el presidente y los asesores principales tendrán que tomar decisiones absolutamente extraordinarias y difíciles.
¿Cuáles son los grandes argumentos en contra de juntar la IA y las armas nucleares?
Incluso los mejores modelos de IA que tenemos disponibles hoy en día siguen siendo propensos a errores. Otra preocupación es que podría haber interferencias externas con estos sistemas. Podría ser un hackeo o un ciberataque, o los gobiernos extranjeros podrían idear formas de introducir información inexacta en el modelo. Ha habido informes de que las redes de propaganda rusas están tratando activamente de sembrar desinformación en los datos de entrenamiento utilizados por los chatbots de inteligencia artificial de los consumidores occidentales. Y otra es cómo interactúan las personas con estos sistemas. Existe un fenómeno que muchos investigadores señalaron llamado sesgo de automatizaciónque es simplemente que las personas tienden a confiar en la información que les brindan los sistemas informáticos.
Hay abundantes ejemplos en la historia de épocas en las que la tecnología ha conducido a desastres casi nucleares, y han sido los humanos quienes han intervenido para evitar una escalada. Hubo un caso en 1979 en el que Zbigniew Brzezinski, el asesor de seguridad nacional de Estados Unidos, fue despertado por una llamada telefónica en medio de la noche informándole que acababan de lanzar cientos de misiles desde submarinos soviéticos frente a la costa de Oregón. Y justo antes de que estuviera a punto de llamar al presidente Jimmy Carter para decirle que Estados Unidos estaba bajo ataque, hubo otra llamada que (la primera) había sido una falsa alarma. Unos años más tarde, hubo un caso muy famoso en la Unión Soviética. El sistema informático informó al coronel Stanislav Petrov, que trabajaba en su infraestructura de detección de misiles, que se había producido un lanzamiento nuclear estadounidense. Según los protocolos, se suponía que debía informar a sus superiores, quienes podrían haber ordenado represalias inmediatas. Pero resultó que el sistema había malinterpretado la luz del sol reflejada en las nubes como el lanzamiento de un misil. Así que es muy bueno que Petrov haya tomado la decisión de esperar unos minutos antes de llamar a sus superiores.
Estoy escuchando esos ejemplos, y lo que podría sacar en claro si lo pienso de manera realmente simplista es que los seres humanos nos sacan del abismo cuando la tecnología falla.
Es cierto. Y creo que hay algunas pruebas recientes realmente interesantes sobre modelos de IA en escenarios de crisis militares, y en realidad tienden a ser más agresivos que los tomadores de decisiones humanos. No sabemos exactamente por qué es así. Si analizamos por qué no hemos librado una guerra nuclear (por qué, 80 años después de Hiroshima, nadie ha lanzado otra bomba atómica, por qué nunca ha habido un intercambio nuclear en el campo de batalla), creo que en parte se debe a lo aterrador que es. Cómo entienden los humanos el potencial destructivo de estas armas y a qué puede conducir esta escalada. Que hay ciertos pasos que pueden tener consecuencias no deseadas y el miedo es una gran parte de ello.
Desde mi perspectiva, creo que queremos asegurarnos de que haya miedo integrado en el sistema. Que las entidades que son capaces de asustarse por el potencial destructivo de las armas nucleares son las que están tomando las decisiones clave sobre su uso o no.
Suena como mirar Una casa de dinamitase puede pensar vívidamente que tal vez deberíamos eliminar por completo toda la IA de esto. Parece que lo que estás diciendo es: la IA es parte de la infraestructura nuclear para nosotros, para otras naciones, y es probable que siga siéndolo.
Una cosa que me dijo un defensor de una mayor automatización fue: «si no crees que los humanos puedan construir una IA confiable, entonces los humanos no tienen nada que ver con las armas nucleares». Pero la cuestión es que creo que es una afirmación con la que también estarían de acuerdo las personas que piensan que deberíamos eliminar por completo todas las armas nucleares.
Puede que me haya preocupado de que la IA fuera a tomar el control y apoderarse de las armas nucleares, pero ahora me di cuenta de que estoy bastante preocupado por lo que gente vamos a hacer con las armas nucleares. No es que la IA vaya a matar gente con armas nucleares. Es que la IA podría aumentar la probabilidad de que las personas se maten entre sí con armas nucleares. Hasta cierto punto, la IA es la menor de nuestras preocupaciones. Creo que la película muestra bien cuán absurdo es realmente el escenario en el que tendríamos que decidir si usarlos o no.
