Cuando el gobernador de Illinois, JB Pritzker, habla de la amenaza de la inteligencia artificial, ofrece un punto de comparación cada vez más común: es un peligro “al nivel de las armas nucleares”.
La comparación no es descabellada. Si la comunidad internacional encontró formas de limitar una tecnología potencialmente catastrófica una vez antes, tal vez esos acuerdos puedan ayudarnos a limitar otra.
El problema es que, si bien la no proliferación nuclear puede ser un útil marco para pensar en regular la IA, no es necesariamente un bien uno. No porque las tecnologías sean demasiado diferentes, sino porque la no proliferación nuclear en realidad no nos ha liberado de la perspectiva de una guerra nuclear.
Sin embargo, el trabajo inacabado de la gobernanza nuclear ofrece una lección importante para quienes ahora luchan contra el riesgo de la IA: aprender a vivir con una tecnología peligrosa no es lo mismo que eliminar su amenaza.
Sin embargo, lo que podríamos hacer es eliminar la incertidumbre sobre quién está construyendo la IA, de qué es capaz la IA y cuándo la IA pone a las personas en riesgo. Estados Unidos ha hecho exactamente eso con las armas nucleares al desclasificar información sobre el tamaño y la condición de su propio arsenal, alentando a otras potencias nucleares a hacer lo mismo.
Dar prioridad a la transparencia sobre la IA no eliminaría los peligros por completo, pero podría ayudarnos a avanzar de manera más colectiva mientras nos esforzamos por gestionar los riesgos muy reales de esta tecnología emergente.
Lo que la analogía nuclear-IA hace bien… y mal
Las comparaciones entre la IA y las armas nucleares han surgido no sólo de políticos y comentaristas, sino también de quienes se encuentran en la cima de la cadena alimentaria fronteriza de la IA. Para algunos líderes de AI, las armas nucleares también representan un modelo ideal de supervisión.
En un ensayo de 2023, Sam Altman, Greg Brockman e Ilya Sutskever de OpenAI pidieron “algo así como una (Agencia Internacional de Energía Atómica) (OIEA) para los esfuerzos de superinteligencia”. La autoridad internacional propuesta «inspeccionaría los sistemas, exigiría auditorías, probaría el cumplimiento de las normas de seguridad» y restringiría la forma en que se podrían implementar los sistemas más potentes.
El objetivo de tales medidas es hacer que el desarrollo de la superinteligencia sea seguro, en lugar de impedirlo, de la misma manera que los regímenes de no proliferación no llegan a prohibir directamente las armas nucleares. Altman y sus colegas sostienen que la tecnología podría ofrecer enormes beneficios, mientras que detener su creación sería “inintuitivamente arriesgado y difícil”.
No todos los que invocan la gobernanza nuclear trazan la línea en el mismo lugar. En septiembre, el investigador de IA Yoshua Bengio dijo al Consejo de Seguridad de la ONU que “la IA de frontera debería tener licencias como… la medicina, la aviación y la energía nuclear para incentivar el desarrollo seguro”. También pidió una limitación universal al desarrollo de la IA, más amplia que las impuestas a las armas nucleares: “Nadie, ninguna empresa ni ningún país debería desarrollar un sistema de IA que pueda causar daños a gran escala”.
El verdadero problema con tales esquemas puede ser descubrir cómo se harían cumplir y quién los haría cumplir. Claro, hoy hay menos estados con armas nucleares de los que podría haber si la no proliferación no se hubiera convertido en una prioridad política para Estados Unidos. Sin embargo, esto no fue el resultado de proezas diplomáticas ni de moderación de buena fe. En los casos más importantes, fue resultado de la coerción por parte de Estados Unidos y sus aliados.
Como explicaron en Foreign Affairs Christopher David LaRoche y Ankit Panda, dos expertos nucleares del Carnegie Endowment for International Peace: «Corea del Sur y Taiwán abandonaron programas de armas incipientes después de una intensa presión de Estados Unidos… y una amenaza de retirar el apoyo militar si no cumplían. Los ataques aéreos israelíes acabaron con los programas iraquí y sirio; Libia entregó el suyo bajo la presión sostenida de Estados Unidos y Gran Bretaña».
En otras palabras, a menos que Estados Unidos busque ir a la guerra para evitar que países de todo el mundo consigan la IA de frontera, la no proliferación nuclear no es el molde ideal para la regulación de la IA. Además, incluso frente a un régimen de no proliferación sólido, unos pocos Estados lograron pasar desapercibidos: India, Israel, Corea del Norte y Pakistán adquirieron armas nucleares.
A pesar de ello, todavía hay menos armas nucleares en el mundo hoy que en el apogeo de la Guerra Fría. Pero incluso los planes mejor trazados podrían no durar para siempre. Todos los acuerdos de control de armas que hicieron posible ese desarme se han derrumbado, ya sea por trampas, repudio o tratados vencidos. Además, además del mayor número de Estados en posesión de armas nucleares, China ha triplicado su número de armas nucleares sólo en esta década.
Éstas son las consecuencias de un régimen creado para gestionar una tecnología, en lugar de eliminarla. Un régimen fronterizo similar de no proliferación de IA regularía quién puede construir los sistemas más poderosos, dejando sin abordar la cuestión de si alguien debería tener esa opción en primer lugar.
Un régimen fronterizo similar de no proliferación de IA regularía quién puede construir los sistemas más poderosos, dejando sin abordar la cuestión de si alguien debería tener esa opción en primer lugar.
La mayor lección es para EE.UU.
Hoy en día, la amenaza de una guerra nuclear persiste. Sin embargo, la no proliferación nuclear nos ofrece una conclusión poderosa: Estados Unidos, en particular, tiene un papel tremendo que desempeñar en la configuración del futuro de la regulación de la IA de frontera.
“Específicamente en el ámbito nuclear, Estados Unidos históricamente ha tenido una poderosa función de iniciativa empresarial normativa”, me dijo Panda. «Lo que hace Estados Unidos en materia de armas nucleares llama la atención de otros países y, a menudo, lo adoptan otros países».
Históricamente, esto ha implicado liderazgo en transparencia, afirmó Panda. «Hay que reconocer que Estados Unidos es mucho más transparente que cualquier otro país nuclear cuando se trata de temas como comando y control y lo que hacemos y no hacemos». Por ejemplo, Estados Unidos desclasifica y publica periódicamente datos sobre el tamaño de sus arsenales de armas nucleares, inventarios de material fisionable e instalaciones de producción.
De manera similar, Estados Unidos podría liderar al mundo en transparencia sobre la frontera de la IA que persigue, los límites que podría imponer a esa tecnología y las salvaguardias implementadas para mantenerla bajo control.
Esto podría tomar forma de varias maneras, comenzando con el uso de la IA por parte del propio gobierno de EE. UU.:
- Antes de implementar un sistema de IA poderoso y riesgoso, el gobierno podría revelar qué riesgos probó, las condiciones bajo las cuales el sistema se considera confiable, sus limitaciones conocidas y qué hallazgos impedirían su implementación.
- Estados Unidos podría explicar en qué decisiones militares puede contribuir la IA y cuáles requieren autorización humana. Esto podría implicar, por ejemplo, distinguir el análisis de inteligencia de la autoridad para iniciar un ataque. El gobierno también podría identificar aplicaciones militares de la IA que descarta por completo.
- Estados Unidos podría publicar relatos de fallas o comportamientos inesperados, explicando si un sistema fue retirado, restringido o vuelto a probar después de que algo salió mal.
Estas medidas de transparencia también deberían extenderse al sector privado, y el gobierno podría exigir a las empresas que:
- Divulgar pruebas de capacidad peligrosa: Esto implicaría exigir a los desarrolladores de vanguardia que publiquen resúmenes estandarizados de pruebas para riesgos tales como ayudar en ataques cibernéticos, contribuir al desarrollo de armas biológicas u operar de forma autónoma más allá de los límites previstos.
- Informar incidentes graves y cuasi accidentes: se podría exigir a los desarrolladores e implementadores que notifiquen a un regulador sobre fallas de seguridad importantes, infracciones o comportamientos peligrosos inesperados.
- Publicar las condiciones para pausar el desarrollo o retener la liberación: las empresas podrían revelar con anticipación qué hallazgos activarían salvaguardas adicionales, retrasarían el lanzamiento de productos o detendrían un mayor desarrollo.
A medida que la IA continúa remodelando el mundo en el que vivimos, priorizar la transparencia en torno a los logros (y los límites) de la tecnología es una forma de garantizar que la seguridad y la protección sigan siendo fundamentales.
A medida que la IA continúa remodelando el mundo en el que vivimos, priorizar la transparencia en torno a los logros (y los límites) de la tecnología es una forma de garantizar que la seguridad y la protección sigan siendo fundamentales. Panda sugirió que tales medidas podrían tranquilizar a los adversarios de que Estados Unidos no implementará modelos de inteligencia artificial fronterizos de maneras que puedan resultar peligrosas o irresponsables.