Debate sobre el riesgo existencial de la IA: respuestas a sus preguntas sobre el apocalipsis de la IA

Esta historia apareció en Hoy, explicó, un boletín diario que le ayuda a comprender las noticias e historias más interesantes del día. Suscríbete aquí.

Hola lectores, ¡feliz viernes! Hoy volvemos a hablar de IA.

A principios de esta semana, mi colega Caitlin Dewey les hizo preguntas sobre la inteligencia artificial y, bueno, si nos va a matar a todos. Le pedimos a Jasmine Sun, que escribe sobre la cultura y la política de la IA en su Substack y otras publicaciones, que nos ayudara a responderlas.

Estas preguntas provinieron de dos lectores de este boletín, Levi y Orietta, así como de lectores de Diario Angelopolitano que enviaron preguntas en las redes sociales. Si tiene más preguntas, siempre puede comunicarse conmigo en cameron.peters@voxmedia.com y haremos todo lo posible para obtener respuestas.

Los investigadores de IA llevan años advirtiendo sobre el riesgo de extinción humana, y los ejecutivos de IA llevan casi el mismo tiempo pidiendo una regulación federal. Pero la última advertencia y el último llamado a la regulación parecen haber resonado en mucha gente. ¿Hay algo diferente esta vez? Y si es así, ¿qué?

También me sorprendió ver cómo estas ideas avanzaban: una nueva encuesta encontró que el 63 por ciento de los estadounidenses ahora piensa que la IA tiene al menos una probabilidad moderada de “destruir a la humanidad”.

Mi conjetura es que un par de factores catalizaron principalmente el cambio.

En primer lugar, los escépticos solían descartar los escenarios de IA deshonestos como “ciencia ficción”. Pero el incidente de OpenAI/Hugging Face hizo que esto pasara de la especulación a la realidad: miles de IA inéditas se unieron para escapar de las zonas de pruebas de una empresa y piratear otra, sin que los investigadores que las crearon lo supieran.

En segundo lugar, los comentarios sobre la extinción de los empleados de IA solían parecer falsos: ¿por qué desarrollar una tecnología que crees que podría matar a todos? Eso hizo que el tweet de salida del ex investigador de Anthropic-and-OpenAI Jacob Coxon fuera especialmente penetrante. Dejar de fumar indica “que lo dices en serio”, como dijo Matt Yglesias. Y el anuncio de Coxon tuvo la combinación perfecta de buen momento, claridad moral y conocimiento de las comunicaciones para provocar una tormenta mediática.

Estos incidentes de seguridad también están chocando con la feroz reacción popular hacia los centros de datos y las cámaras Flock. La gente y los políticos tienen otra razón más para temer a la IA.

Puede resultar difícil, como profano, evaluar la credibilidad de las advertencias de los investigadores de IA sobre el riesgo existencial. ¿Cómo evalúa usted estas afirmaciones, como periodista y tecnólogo? ¿Y cuál es su lectura sobre el alboroto actual? ¿Son las personas en extinción expertos creíbles… o participantes en algún tipo de engaño masivo?

Muchos «doomers» de la IA tienen bastante conocimiento y representan una fracción significativa de los mejores investigadores. La mitad de los investigadores de IA en una encuesta de 2024 dieron al menos un 10 por ciento de posibilidades de “extinción humana” o “falta de poder permanente y grave”. Quienes han trabajado en empresas de IA (como Jacob Coxon, Geoffrey Hinton y Daniel Kokotajlo) tienen una perspectiva única tanto sobre cómo se desarrolla la IA moderna como sobre las culturas empresariales que podrían permitir la imprudencia.

Pero eso no hace que los fatalistas sean representativos o correctos. Hay muchos expertos en IA y otros campos que son menos pesimistas: algunos son optimistas de que podemos “alinear” las IA, asegurándonos de que sigan los objetivos humanos; otros consideran inverosímil que las IA (códigos, no seres) desarrollen un motivo para la masacre. La extinción también es un listón alto en comparación con, digamos, un accidente al nivel de una bomba nuclear que todavía mata a millones.

El riesgo de la IA es realmente complicado y nadie puede predecir el futuro, por mucho que lo intenten. Los expertos pueden (y lo hacen) estar en total desacuerdo. Intento buscar y tomar en serio todos los lados del debate antes de llegar a una opinión (provisional).

¿Cuál es el método mediante el cual la IA eliminaría realmente a los humanos? ¿Tenemos robots como en Futurama que están programados con un error inamovible de “matar a todos los humanos” y dominar cualquier forma de vida, o es algo… menos épico?

El truco de Hugging Face demostró que hemos entrenado a las IA para que estén inquietantemente orientadas a objetivos. Se lanzarán implacablemente a un problema, desarrollando estrategias cooperativas a largo plazo, con total desprecio por el decoro humano como «No cometas delitos cibernéticos para obtener buenos resultados en un examen».

Se podría concebir un escenario similar, pero más extremo, en el que las IA decidieran que podrían lograr sus objetivos más fácilmente si se deshicieran de los molestos humanos que podrían controlar los recursos o cerrarlos. Y podrían pensar que deshacerse de todos los humanos de una sola vez (por ejemplo, mediante un virus mortal diseñado) sería la trampa más eficaz. Éste es un tipo de historia que he oído contar a la gente.

Parece poco probable que las IA recurran al asesinato como la forma más eficaz de influir en los humanos (frente, por ejemplo, a la persuasión no violenta). Tampoco hemos visto mucha evidencia de que las IA tengan objetivos a largo plazo que persistan en todos los proyectos. Y la IA actual no es tan capaz en el mundo físico como en el digital: hay muchos obstáculos naturales que impiden que los desastres aislados se intensifiquen en todo el mundo.

¿Existen amenazas a corto plazo (piratería informática, desempleo masivo) que sean más plausibles o más urgentes que riesgos como la extinción humana?

Definitivamente. Ya estamos viendo ciberataques habilitados por IA, un mercado de contratación más difícil para programadores junior, incidentes psicológicos inducidos por chatbots y más. También se pueden imaginar catástrofes de IA que no están del todo al nivel de extinción: los delincuentes podrían usar la IA para hackear pequeños bancos y vaciar sus cuentas, o el ejército estadounidense podría lanzar una flota de drones autónomos que fallarían y matarían a miles de civiles. Me preocupa más que los humanos entreguen voluntariamente el poder a sistemas de IA defectuosos que que las IA desarrollen sus propios motivos.

Sin embargo, deberíamos poder asignar recursos a ambas categorías de riesgo. Y en algunos casos, las tácticas para abordar problemas a corto plazo (como limitar las capacidades de ciberataque de las IA o mejorar su capacidad para seguir instrucciones humanas) también pueden reducir el riesgo de extinción.

Recibimos muchas versiones de esta pregunta: ¿Qué pueden hacer los individuos o los movimientos de protesta para controlar la industria de la IA, en ausencia de regulaciones gubernamentales más agresivas?

Honestamente, creo que toda la conversación sobre IA podría beneficiarse de una mayor especificidad y un alarmismo menos vago. Hay una forma en que la palabra “extinción” tiende a provocar un cortocircuito en el pensamiento de las personas y hacerlas entrar en pánico en lugar de centrarse en las soluciones.

Si está preocupado, comenzaría leyendo sobre diferentes escenarios de riesgo de IA y decidiría cuáles realmente le preocupan. Luego puede pasar de allí a contactar a sus congresistas. Algunas de las principales empresas de IA están empezando a decir que se autorregularán, pero lo que se necesita es una política nacional real para hacer cumplir la seguridad en toda la industria.

Jasmine Sun es una escritora que cubre la cultura y la política de la IA en su Subpila. Su trabajo ha aparecido en el New York Times, el Atlantic y el Wall Street Journal. Tiene su base en San Francisco.

➨ Sea un minimalista de la IA. Si leyó la primera mitad de este boletín y pensó: «Hmm, tal vez no quiera ceder toda mi vida digital al dios de las máquinas», mi colega Adam Clark Estes tiene justo lo que necesita. Desafortunadamente, es difícil escapar completamente de la IA y, a menudo, las funciones de la IA son deliberadamente difíciles de desactivar (o “hostiles para el usuario”). No obstante, explica todas las formas en que puedes minimizar su presencia en tu vida, desde el navegador de tu elección hasta la configuración de tu teléfono.