¿Cómo sabemos cuándo el mundo ha cambiado?
El 1 de junio, un equipo de científicos publicó un artículo científico preimpreso afirmando que habían editado ADN embrionario humano con más precisión que cualquier intento anterior. Como logro técnico, el trabajo es sin duda impresionante, ya que evita en gran medida los errores que habían acompañado esfuerzos anteriores para editar genes en embriones. Con un mayor desarrollo, dicha edición embrionaria podría liberar a los futuros niños de enfermedades genéticas fatales o debilitantes, pero como informó el veterano escritor científico Carl Zimmer en el New York Times esa misma semana, la verdadera noticia de primera plana fue que el trabajo “podría abrir el camino a bebés diseñados con características particulares”; en otras palabras, niños de diseño.
El mismo día que se publicó el artículo del Times, la empresa de inteligencia artificial Anthropic publicó una publicación en la que afirmaba que la IA ya estaba acelerando el desarrollo de la IA, lo que, según los autores, puede representar un primer paso hacia la automejora recursiva (RSI): sistemas de IA que diseñan y construyen sus propios sucesores, cada vez más rápido. La mayor parte del código que ejecuta Claude de Anthropic ya fue escrito por el propio Claude, lo que ha ayudado a los ingenieros de la compañía a enviar ocho veces más código que hace dos años. Si bien más no es automáticamente mejor, y Claude todavía está lejos de poder guiarse por sí mismo, la posibilidad de una IA automejorada está en el horizonte, y “podría llegar antes de lo que la mayoría de las instituciones están preparadas”, como escribieron el cofundador de Anthropic, Jack Clark, y la directora del Anthropic Institute, Marina Favaro.
Estos dos escritos fueron publicados por biólogos académicos y empleados de una empresa de inteligencia artificial, en dos disciplinas tremendamente dispares, pero, no obstante, apuntan a un posible futuro cercano que es fundamentalmente diferente del mundo en el que vivimos ahora.
Ambos eventos son posibles pasos clave hacia poderes sin precedentes, sobre los cuales no tendríamos un control firme sobre todos: inteligencias y humanos recientemente diseñados. Lo que ambos comparten no es sólo consecuencia, sino bivalencia: la posibilidad tanto de lo milagroso como de lo catastrófico. La precisión biológica que podría erradicar una enfermedad hereditaria como la de Huntington también podría allanar el camino hacia un sistema genético de castas. La capacidad de la IA, que podría acelerar décadas de progreso científico, también podría restar poder por completo a sus creadores: nosotros.
Es posible que el mundo haya atravesado una puerta histórica con ambos avances la semana pasada. Pero aún no podemos saber de qué tipo.
Primero da el paso de la biología. Si dejamos de lado los titulares (que provienen de los medios de comunicación, no de los propios científicos), el experimento es bastante limitado.
Utilizando los llamados editores de base, que hacen una pequeña muesca en una cadena genética en lugar de cortar un segmento completo, como hace CRISPR, el genetista Dieter Egli de la Universidad de Columbia y su equipo editaron dos genes: PCSK9 y HBG. Es posible que hayas oído hablar del primero; PCSK9 produce una proteína que afecta la capacidad del cuerpo para eliminar el colesterol de la sangre, y ciertas mutaciones en el gen pueden elevar peligrosamente los niveles de colesterol LDL. HBG codifica una forma de hemoglobina de la que depende el cuerpo antes del nacimiento y que normalmente desactiva después. Ser capaz de controlar estos genes podría prevenir las mutaciones que aumentan el riesgo de enfermedad cardíaca (PCSK9) y reactivar esa hemoglobina fetal en la edad adulta, aliviando, aunque no curando, la anemia falciforme y la beta-talasemia (HBG).
Los investigadores colocaron sus editores base en óvulos fertilizados y en embriones humanos de dos células y, en algunos casos, lograron realizar las ediciones sin el daño cromosómico que se había asociado con intentos anteriores de editar utilizando CRISPR.
El artículo, que aún no ha sido revisado por pares, es un impresionante paso adelante en el esfuerzo por utilizar tecnología de edición genética en genes de embriones humanos con mayor precisión. Pero lo impresionante aún está lejos de ser perfecto, o incluso seguro: algunas ediciones aterrizaron en el lugar equivocado del genoma y relativamente pocos embriones se desarrollaron normalmente. (Los embriones, que habían sido donados por pacientes de FIV, no se desarrollaron más allá de etapas muy tempranas y no se implantó ninguno). Egli y sus colegas dejaron claro en el artículo que cualquier noción de utilizar la técnica de edición de bases tal como se utiliza ahora para el tratamiento es “prematura”. Pero el artículo muestra que dicha edición ahora aparentemente se puede realizar sin destruir los cromosomas.
Cuando el científico chino He Jiankui utilizó CRISPR convencional para editar embriones humanos en 2018, produciendo tres hijos, su trabajo fue ampliamente rechazado no solo por razones morales, sino también técnicas, ya que su torpe edición genética causó un daño genético real. Si los resultados del nuevo artículo se confirman, los obstáculos técnicos a la ingeniería de embriones comenzarán a desaparecer.
Nadie sabe lo que viene después. Ciertos trastornos genéticos, como la anemia falciforme, pueden solucionarse con una única edición genética, pero prevenir problemas de salud más complejos (o diseñar los rasgos con los que algunas personas podrían soñar, como la altura o la inteligencia) requeriría editar cientos o incluso miles de genes en combinaciones que aún no comprendemos del todo. Pero si las barreras técnicas siguen cayendo, sólo quedarán las morales, y las morales rara vez han frenado una tecnología por mucho tiempo.
Por muy revolucionaria que sea la capacidad de diseñar verdaderamente seres humanos, la biología todavía avanza lentamente. No se puede decir lo mismo del tema del otro documento publicado la semana pasada.
La publicación de Anthropic utiliza más de 5000 palabras y muchos (supongo) gráficos producidos por Claude para señalar un solo punto: la proporción de trabajo humano que se dedica a la construcción de IA se está reduciendo en cada etapa. Los ingenieros que alguna vez escribieron el código ahora revisan principalmente lo que escribe el propio Claude. Los experimentos que antes se diseñaban manualmente ahora se proponen y ejecutan cada vez más mediante el modelo. Si bien los humanos todavía toman decisiones sobre lo que vale la pena construir, Anthropic sostiene que incluso eso ha comenzado a cambiar, a medida que los empleados difieren cada vez más en lo que el modelo propone hacer a continuación.
Un circuito de investigación cada vez más dominado por la propia IA podría avanzar cada vez más rápido. La tecnología siempre ha cambiado al ritmo de los seres humanos: a qué velocidad pueden pensar, planificar y actuar. Una IA capaz de mejorarse a sí misma elimina ese límite de velocidad, lo que permite la posibilidad muy real de que se mueva más rápido de lo que puede seguir cualquier ser humano o cualquier institución dirigida por humanos encargada de gobernarla. La inteligencia misma se vuelve crítica: cada modelo más inteligente construye uno más inteligente y la reacción se sostiene a sí misma.
Esto podría parecer mucho para algunos meses de datos de codificación interna de una empresa de inteligencia artificial que tiene un gran interés en hacer que sus modelos parezcan lo más fuertes e inteligentes posible. (Especialmente si esa compañía de inteligencia artificial tiene una oferta pública inicial potencialmente récord en el horizonte). En la publicación, la propia Anthropic admite que simplemente contar líneas de código solo llega hasta cierto punto, y que la velocidad es solo, en el mejor de los casos, una métrica parcial del éxito. Pero investigaciones independientes han demostrado que los modelos de IA pueden dedicar cada vez más tiempo a una sola tarea, lo que les permite trabajar no sólo más rápido sino también más profundamente. Podemos objetar la velocidad, pero no la idea de que la IA avance y sea rápido.
Una IA poderosa y deslumbrantemente rápida podría conducir a un rápido progreso económico, científico y médico: todos los sueños del director ejecutivo de Anthropic, Dario Amodei, ha expuesto en sus propios escritos.
Pero también amenaza con ser existencialmente peligroso y profundamente desempoderador para la mayoría de nosotros, de manera similar a lo que podría ser la mejora genética humana para aquellos que quedan excluidos. Y la velocidad potencial de tal cambio es tan grande que Anthropic hace la inusual propuesta de pedir a las empresas de IA que consideren colectivamente desacelerar o incluso pausar temporalmente el desarrollo de la IA de frontera, para permitir que las estructuras sociales y la investigación de alineación de la IA se mantengan al día. Los autores del artículo de Anthropic citan específicamente los regímenes internacionales creados para controlar tecnologías peligrosas del pasado, como las armas nucleares, que, a pesar de todos sus problemas, hasta ahora han impedido que el mundo se aniquile. Pero esas instituciones, como la Agencia Internacional de Energía Atómica, tardaron décadas en construirse y, como señalan los líderes de Anthropic, cuando se trata de una IA automejorada: «No tenemos tanto tiempo».
¿Cómo sabemos cuándo el mundo ha cambiado?
A veces es inmediato. Cuando Otto Hahn y Fritz Strassmann lograron la fisión nuclear en diciembre de 1938, los expertos comprendieron las implicaciones casi de inmediato: una bomba nuclear sería posible. A veces los científicos lo ven y el resto del mundo no. Cuando Jennifer Doudna y Emmanuelle Charpentier publicaron el artículo fundamental que detallaba CRISPR en 2012, la atención inicial de la prensa fue prácticamente inexistente, y las instituciones que eventualmente necesitarían gobernarlo no tenían idea de lo que acababa de suceder.
Los casos más difíciles de todos son aquellos en los que incluso los expertos sólo pueden ver la mitad. La fisión apuntaba en una dirección, hacia un arma, y las personas que la entendían poco podían hacer para detenerla. Cada uno de los dos avances de la semana pasada apunta en dos sentidos a la vez. La misma tecnología de edición que podría salvar a un niño de una enfermedad mortal es la que eventualmente podría clasificar a los niños en castas genéticas. La misma inteligencia que podría darnos “un país de genios en un centro de datos”, como dijo una vez Amodei, también podría dejarnos como poco más que espectadores en el mundo.
Así que nos quedamos donde empezamos, en un umbral que no podemos ver más allá. El peligro no es sólo que hayamos entrado por la puerta equivocada. Es que hemos pasado por allí sin darnos cuenta de que había uno.
