En 1954, años después de liderar el proyecto que creó la bomba atómica, el físico J. Robert Oppenheimer fue llamado a declarar ante la Comisión de Energía Atómica (AEC). El tema aparente de las audiencias fue la posición de Oppenheimer sobre la bomba de hidrógeno, una versión mucho más destructiva de la bomba atómica que Estados Unidos había desarrollado y probado por primera vez dos años antes.
Oppenheimer, que en los años posteriores a la guerra había tenido cada vez más conflictos sobre las armas atómicas, inicialmente se opuso a trabajar en la bomba de hidrógeno o termonuclear, en parte por razones morales y en parte porque era escéptico de que funcionara. Pero luego cambió de opinión y apoyó el trabajo en ello. Los abogados de la AEC querían saber por qué.
No fue porque Oppenheimer hubiera cambiado de opinión sobre la moralidad de las bombas termonucleares que vaporizan ciudades. Más bien, se debió a que los físicos estadounidenses habían dado con un nuevo diseño para bombas de hidrógeno que no sólo era viable, sino positivamente elegante, o “técnicamente atractivo”, como él lo llamaba. Para Oppenheimer eso fue suficiente. Como dijo en la audiencia de la AEC: «Cuando ves algo que es técnicamente bueno, sigues adelante y lo haces, y discutes sobre qué hacer al respecto sólo después de haber tenido éxito técnico».
Lo que Oppenheimer describió fue una especie de impotencia moral disfrazada de resolución: la atracción de una respuesta científicamente hermosa a un problema desagradable, y el hábito que la acompaña de mantener la contabilidad moral hasta después del éxito técnico. Es una de las cosas más honestas que haya dicho cualquiera que haya construido la bomba, o cualquier otro objeto que altere el mundo. Y nunca ha dejado de ser relevante, porque las personas que ahora construyen la tecnología que altera el mundo en nuestro momento siguen diciendo versiones de ella también.
Jack Clark, cofundador y director de políticas de Anthropic, la empresa detrás de los modelos Claude, es una de esas personas. Así que valió la pena prestar atención la semana pasada cuando Clark se sentó para un largo diálogo público con Samuel Kimbriel, director fundador de Filosofía y Sociedad del Instituto Aspen, apenas seis días después de que el gobierno federal cortara abruptamente el acceso a los dos modelos más poderosos de Anthropic, aparentemente por temor a lo que podrían hacer.
Gran parte de la conversación giró en torno a una sola idea que resultará familiar para quienes lean el trabajo de Clark: una poderosa IA está por llegar y nos presenta una elección, una elección que nos negamos activamente a tomar al no regular la IA. (Divulgación: Future Perfect está financiado en parte por la Fundación BEMC, cuyo principal financiador también fue uno de los primeros inversores en Anthropic; no tienen ninguna aportación editorial sobre nuestro contenido).
Regulamos los cepillos de dientes, señaló Clark, y los automóviles y las armas nucleares. «Pero parece que tenemos esta actitud hacia la tecnología que es imposible de regular», dijo. «No es imposible regular… actuamos como si, bueno, la industria tecnológica inevitablemente fuera a hacer cosas, lo cual creo que es una elección». Su ejemplo más claro fue el cambio de plataforma en línea que reformó por completo las últimas dos décadas. «Las redes sociales realizaron un experimento incontrolado en el mundo», dijo. «Ahora todos pensamos y hablamos un poco diferente gracias a las redes sociales. Esa fue una elección. Podemos elegir que las cosas sean diferentes».
Este es el tipo de discurso que durante mucho tiempo ha diferenciado a Anthropic de otras importantes empresas de IA: sus directores están dispuestos a insistir en los graves riesgos de la IA avanzada, riesgos que exigen una regulación clara e incluso estricta. (Aproximadamente una semana antes del diálogo de Aspen, y apenas un día antes de que la administración Trump atacara duramente a los últimos modelos de Anthropic, el director ejecutivo Dario Amodei publicó una publicación en un blog pidiendo a la autoridad gubernamental que bloquee legalmente o incluso revierta el despliegue de modelos fronterizos de inteligencia artificial que no superen las pruebas de seguridad ante amenazas como el ciberpirateo y las armas biológicas.)
Anthropic reconoce que la IA avanzada es una apuesta existencial, pero sostiene que es una apuesta que debemos asumir. En el diálogo de Aspen, Clark habló de un siglo venidero que estará marcado por desafíos brutales (envejecimiento de la población, instituciones bajo presión, un planeta en calentamiento) que aparentemente sólo pueden abordarse con IA. No seguir adelante con la inteligencia artificial sería privarnos de milagros médicos que sólo podemos imaginar y condenar implícitamente a quienes de otro modo podrían salvarse.
Clark tiene razón en que hay una elección oculta en todo esto. Pero la pregunta que elude su encuadre es exactamente de quién es la elección.
Claro, como dijo Clark, regulamos los automóviles, los cepillos de dientes y las armas nucleares, pero en cada caso alguien construyó el aparato primero, y el resto de nosotros tuvimos que decidir qué hacer con un mundo que ya lo contenía. Nadie votó sobre si debería existir la bomba atómica. Nos dieron las consecuencias y tuvimos que escribir las reglas más tarde.
Lo mismo ocurre con la IA. La elección que Clark quiere que haga el público sobre su gobierno sólo se hizo necesaria una vez que su industria creó lo que necesita gobierno. Nos ofrece una votación sobre qué hacer con la IA, no una votación sobre si se realiza, porque esa votación ya fue emitida, en privado, por él, unos cientos de colegas y billones de dólares. Pero por qué no ¿Podemos opinar? ¿Por qué estamos atrapados en un mundo donde, como dice Oppenheimer, “se discute sobre qué hacer al respecto sólo después de haber tenido éxito técnico”?
No era la única persona del público que se preguntaba esto. Cerca del final del diálogo, una joven le hizo directamente a Clark una versión más aguda de esta pregunta. Todos los laboratorios fronterizos ahora admiten que la tecnología conlleva un riesgo enorme, incluso un riesgo existencial, señaló. «Entonces mi pregunta es, ¿qué te da a ti, a Anthropic y al resto de los laboratorios fronterizos el derecho a continuar construyendo algo que podría destruir a todos, cuando ninguno de nosotros puede optar por no participar?»
Clark, hay que reconocerlo, no desestimó la pregunta. Pero tampoco respondió completamente. Lo reformuló: lejos de la elección de construir, hacia la necesidad de que alguien asuma la responsabilidad una vez construido.
Ese alguien no puede ser las propias empresas, dijo, describiendo un futuro ideal en el que “sistemas externos de cumplimiento, regulación, prueba y verificación” decidirían cuándo se permitiría a cada laboratorio ir más allá. Los gobiernos ya estaban avanzando más rápido de lo que nadie esperaba: Estados Unidos y el Reino Unido, dijo, habían creado agencias de pruebas cuyas herramientas a veces eran mejores que las propias de las empresas.
Fue una respuesta amable, aunque no encajaba bien con la realidad de que el presidente Trump ahora parece estar regulando la IA por capricho, pero observemos lo que concede. Cuando se le preguntó qué le da a su empresa el derecho a construir algo que podría destruir a todos, el jefe de políticas de un importante laboratorio de inteligencia artificial no dijo tenemos ese derecho. Dijo que la decisión no debería recaer en empresas como la suya, sólo en describir un sistema para quitárselo de las manos que aún no existe del todo. Él y sus colegas todavía están construyendo, en la frontera, tan rápido como lo permiten la ciencia y la computación, mientras le dicen a la sala que alguien más debería estar a cargo. La IA ya está suelta en el mundo. La regulación de la IA sigue siendo principalmente materia de publicaciones de blogs.
Entonces, ¿por qué realmente están haciendo esto? Volviendo a Oppenheimer: porque la IA es “técnicamente buena”. No es la carrera con China, ni las valoraciones de billones de dólares, ni siquiera el encomiable deseo de curar enfermedades, aunque todo eso es real. Debajo de ellos hay algo más simple y mucho más difícil de gobernar: estamos obligados a construir lo bello. Clark prácticamente lo dijo, maravillándose de que la IA sea “más fácil y sencilla de construir que muchos otros aspectos de la ciencia”, y que su científico jefe bromee diciendo que ya tendrían AGI si simplemente arreglaran los errores en su código.
Los humanos somos una especie que utiliza herramientas, argumentó Clark, y la IA es la herramienta definitiva. No es que la IA sea exactamente inevitable, sino que es tan extrañamente simple de construir una vez que se sientan las bases que “casi cualquier camino que sigas, (IA) aparece”.
Lo que Clark describió es el atractivo que Oppenheimer nombró en 1954: el atractivo de una solución elegante que hace que la pregunta de si se debe construir o no parezca irrelevante.
Puedo sentirlo yo mismo y solo soy un usuario. Ponga un modelo capaz a su alcance, pídale que haga algo que usted no podría hacer solo (escriba el programa, encuentre el defecto, desenrede aquello en lo que se había quedado atascado) y luego mírelo simplemente. hacer lo que usted solicitó, y experimentará una pequeña emoción eléctrica que no tiene nada que ver con el envejecimiento de la población o el futuro de la democracia. Esa emoción corre en una línea ininterrumpida desde el usuario frente al teclado, pasando por el ingeniero que entrenó el modelo hasta el ejecutivo que lo envió.
Es por eso que sospecho que el discurso de Clark sobre regulación, por muy sincero que sea, es posterior a una decisión que nunca estuvo realmente en duda. Al igual que Oppenheimer con la bomba de hidrógeno, las personas que construyen esta tecnología sienten que no tienen más opción que seguir adelante y luego esperar que el resto de nosotros tomemos las decisiones correctas para gobernar lo que ellos mismos no pudieron evitar.
Hasta ahora hemos tenido suerte con el último dispositivo técnicamente atractivo que aún podría acabar con el mundo. La bomba de hidrógeno ha existido durante 70 años sin haber sido utilizada con ira, no porque hayamos resuelto la política sobre la que advirtió Oppenheimer, sino porque ganó la opción más sabia. Y porque tuvimos suerte.
Clark puede tener razón en que la elección sigue siendo nuestra: la bomba no decidió la Guerra Fría, la gente sí lo hizo, y la gente también puede decidir esto. Pero sería útil que las personas que nos dan esa opción desaceleraran el tiempo suficiente para permitirnos hacerlo, en lugar de construir tan rápido como puedan y confiar en que nuestra suerte y la de ellos se mantendrán.
