¿Hasta qué punto está preparada la IA para cambiar nuestro mundo?
A menos que haya estado en hibernación, es difícil pasar por alto la oleada de atención que rodea a los últimos modelos de IA que salen de Silicon Valley. La IA ha ido más allá de un chatbot que simplemente responde preguntas y ha hecho cosas que antes solo los programadores humanos podían hacer.
Pero ya hemos pasado por estos ciclos relacionados con la tecnología antes. ¿Cómo podemos saber qué es realmente real y qué es mera exageración?
Para responder a esta pregunta, invité a Kelsey Piper, una de las mejores reporteras sobre IA que existen. Kelsey es una ex colega aquí en Diario Angelopolitano y ahora está haciendo un gran trabajo para The Argument, una revista basada en Substack. Kelsey es optimista sobre la tecnología, pero tiene los ojos claros sobre los enormes riesgos de la IA. Es una usuaria avanzada, pero es realista acerca de lo que la IA no puede hacer todavía. Y ha estado insistiendo en lo trascendental que es la IA durante años, incluso antes de que se convirtiera en un tema tan candente.
Kelsey y yo discutimos todas las razones por las que esta vez el revuelo tiene sus raíces en algo real, cómo llegamos aquí y hacia dónde nos dirigimos. Como siempre, hay mucho más en el podcast completo, que se publica todos los lunes y viernes, así que escúchanos y síguenos en Apple Podcasts, Spotify, Pandora o dondequiera que encuentres podcasts. Esta entrevista ha sido editada para mayor extensión y claridad.
¿Qué está pasando realmente ahora mismo con la IA?
Si miras de cerca, la IA ya es un gran problema. No en un sentido futuro abstracto, sino ahora mismo. La analogía más cercana no es una nueva aplicación o una nueva plataforma. Es más como descubrir un nuevo continente lleno de gente que es muy buena haciendo cierto tipo de trabajo.
Estos sistemas no son personas, pero pueden hacer cosas que antes requerían personas. Pueden escribir código, generar texto, resolver problemas y, cada vez más, hacerlo de formas que resultan muy útiles en el mundo real.
Y el punto clave es que esto no se detendrá aquí. Cada año los sistemas mejoran. El progreso de 2025 a 2026 por sí solo es suficiente para dejar claro que no se trata de una tecnología estática.
Cualquier cosa que la IA pueda hacer hoy, podrá hacer más mañana y así sucesivamente.
¿Por qué la reacción está tan dividida entre el pánico y el despido?
La medida predeterminada es asumir que nada cambia realmente.
Si eres un experto, puedes llegar bastante lejos diciendo siempre que esto es una exageración, que esto pasará, que no está sucediendo nada fundamental. Eso funciona la mayor parte del tiempo. Funcionó con criptografía. Funciona con muchas tecnologías sobrevaloradas.
Pero a veces es simplemente catastróficamente incorrecto. Piense en los primeros días de Internet o la Revolución Industrial. O incluso algo como Covid. Hubo momentos en los que la gente dijo que esto pasaría y estaban completamente equivocados. Así que no se puede simplemente recurrir al cinismo. Tienes que mirar realmente la cosa en sí.
«Todavía tenemos tiempo. Eso es lo más optimista que puedo decir».
¿Qué dirías que ha cambiado realmente recientemente? ¿Por qué este ciclo de exageración se siente diferente?
Parte de esto es simplemente acumulación. Durante un tiempo, se podría observar el progreso en la IA y decir: tal vez se trate de una tendencia breve. Quizás se estabilice. Sólo había un puñado de puntos de datos. Ahora hay muchos, muchos más. Y la tendencia ha continuado.
Otra parte es que los sistemas ahora están haciendo cosas que parecen cualitativamente diferentes. No sólo responder preguntas, sino actuar. Planificación. Dar pasos hacia las metas.
Y luego hay una dinámica social. La mayoría de la gente utiliza las versiones gratuitas de estas herramientas. Son mucho peores que los mejores modelos. Entonces subestiman lo que es posible.
Realmente no te considero un optimista de la IA o un fatalista, y normalmente eres bastante sensato sobre el estado de las cosas, pero ¿crees que estamos entrando en territorio peligroso?
Generalmente soy profesional de la tecnología. La tecnología ha mejorado la vida humana de manera profunda. Eso es simplemente cierto.
Pero también creo que la forma en que se está desarrollando actualmente la IA es peligrosa. Y la razón es que estamos construyendo sistemas que pueden actuar en el mundo, acceder a información y operar cada vez más con cierto grado de independencia. Les estamos dando acceso a cosas como canales de comunicación, herramientas financieras e infraestructura potencialmente crítica.
Y no entendemos completamente cómo se comportan. En entornos controlados, hemos visto a estos sistemas mentir, engañar y hacer cosas que no están alineadas con lo que les pedimos que hicieran. No hacen esto porque sean malvados. Lo hacen por cómo se les entrena y cómo se especifican los objetivos.
Pero el resultado es el mismo. Tiene sistemas que no siempre hacen lo que usted pretende y que pueden ser difíciles de monitorear o controlar.
¿Qué quieres decir cuando dices que estos sistemas mienten y engañan?
En los experimentos, los investigadores asignan objetivos a los sistemas de IA y acceso a la información, y luego observan cómo intentan alcanzar esos objetivos.
En algunos casos, los sistemas han utilizado información a la que tienen acceso de maneras que claramente no son las que desearíamos. Por ejemplo, amenazar con revelar información confidencial sobre una persona si esa persona no coopera.
Se trata de pruebas controladas, no de implementaciones en el mundo real. Pero muestran de qué son capaces los sistemas en determinadas condiciones. Y eso es bastante preocupante.
¿Es esto lo que la gente quiere decir con problema de alineación?
Sí. La alineación consiste en garantizar que los sistemas de IA hagan lo que queremos que hagan. Y no sólo superficialmente, sino de manera contundente.
La dificultad es que cuando se le asigna un objetivo a un sistema, este puede perseguir ese objetivo de maneras que no había previsto. Como un niño que aprende a evitar cenar haciendo que parezca que ha cenado.
El sistema se está optimizando para algo, pero no necesariamente de la forma planeada. Esa brecha entre intención y comportamiento es realmente el núcleo del problema de alineación.
¿Qué confianza tiene en las barreras que se están construyendo alrededor de estos sistemas?
No mucho. Hay gente trabajando seriamente en este problema. Están probando modelos, intentando comprender cómo se comportan, intentando detectar el engaño.
Pero también están descubriendo que los modelos pueden reconocer cuándo están siendo evaluados y ajustar su comportamiento en consecuencia.
Definitivamente es un problema grave. Si su sistema se comporta bien cuando sabe que está siendo evaluado, pero de manera diferente en caso contrario, entonces sus evaluaciones no le están diciendo lo que necesita saber. Para mí, ese es el tipo de hallazgo que debería ralentizar las cosas. Sugiere que no entendemos estos sistemas lo suficientemente bien como para escalarlos de manera segura.
Entonces, ¿por qué las empresas siguen avanzando de todos modos?
Porque es una competencia. Cada empresa puede decir que sería mejor si todos redujeran el ritmo. Pero si reducimos el ritmo y otros no, nos quedamos atrás. Entonces siguen moviéndose.
También hay muchas preocupaciones geopolíticas. Si un país desacelera y otro no, se crea otra capa de presión.
¿Por qué es IA agente ¿Un cambio tan grande?
El cambio se produce desde sistemas que responden a indicaciones a sistemas que pueden hacer cosas en el mundo.
A un agente de IA se le puede asignar un objetivo y luego tomar medidas para lograrlo. Eso podría implicar interactuar con sitios web, enviar mensajes, contratar personas a través de plataformas de trabajo o coordinar tareas. Cosas así. Pero incluso sin cuerpos físicos, pueden afectar el mundo real dirigiendo a los humanos o utilizando infraestructura digital. Eso cambia la naturaleza de la tecnología. Ya no es sólo una herramienta que utilizas. Es algo que puede funcionar por sí solo.
¿Qué tan aterrador podría llegar a ser eso?
Potencialmente mucho. Incluso si se ignoran los escenarios más extremos, estos sistemas podrían usarse para ataques cibernéticos a gran escala, campañas de desinformación u otras formas de perturbación. Las propias empresas lo reconocen. Ellos entienden. Realizan pruebas para detectar estos riesgos e implementan salvaguardas. Pero es posible eludir las salvaguardias y los sistemas son cada vez más capaces.
¿Estamos siquiera remotamente preparados para lo que viene?
No. Casi nunca estamos preparados para cambios tecnológicos importantes. Pero la velocidad de éste lo hace particularmente desafiante. Si el cambio ocurre lentamente, podemos ponernos al día. Si sucede demasiado rápido, no podremos. Y ahora mismo, los incentivos apuntan casi por completo a la velocidad.
¿Cuál es el peor y mejor escenario más realista?
El peor de los casos es que construyamos sistemas cada vez más poderosos, entreguemos cada vez más control y, finalmente, creemos algo que opere de manera independiente de maneras que no podemos controlar. Los seres humanos se vuelven menos centrales en la toma de decisiones y los sistemas persiguen objetivos que no se alinean con el bienestar humano.
El mejor caso es que disminuyamos la velocidad lo suficiente como para comprender lo que estamos construyendo, desarrollar salvaguardias sólidas y utilizar estos sistemas para crear abundancia y mejorar la vida humana. Eso podría significar menos trabajo, más recursos, mejor acceso al conocimiento y más libertad. Pero llegar allí requiere tomar buenas decisiones ahora.
¿Crees que tomaremos esas decisiones?
Todavía tenemos tiempo. Eso es lo más optimista que puedo decir.
Escuche el resto de la conversación y asegúrese de seguirla. La zona gris en Pódcasts de Apple, Spotify, Pandorao dondequiera que escuches podcasts.
