Los directores ejecutivos de las empresas de inteligencia artificial, Sam Altman (OpenAI), Demis Hassabis (Google DeepMind) y Dario Amodei (Anthropic) no están de acuerdo en muchas cosas, como qué tan rápido debe desarrollarse la tecnología, la mejor manera de regularla y cómo preparar a la sociedad para una IA más inteligente que la humana, entre otras cosas.
Eso hace que sea aún más notable que ellos, junto con otros 85 expertos en tecnología, biología y política de seguridad nacional, hayan firmado recientemente una carta abierta pidiendo regulaciones más estrictas en torno a la síntesis de genes. A todos les preocupa que los sistemas de IA puedan usarse para ayudar a desarrollar e incluso desplegar armas biológicas peligrosas diseñadas mediante síntesis genética, que se utiliza para construir químicamente secuencias de ADN personalizadas en un laboratorio, en lugar de depender únicamente de plantillas de ADN naturales existentes.
El simple hecho de que varios directores ejecutivos de empresas de IA ferozmente competitivas se alineen en cualquier cosa es notable. Pero para entender cómo llegaron a este acuerdo, tenemos que dar un paso atrás para entender qué es la síntesis genética, cómo funciona y por qué la posibilidad de que la IA haga un mal uso de esta tecnología genera tanto miedo.
La microbiología moderna le debe mucho a la síntesis de genes. Los investigadores pueden solicitar genes sintéticos a proveedores comerciales de ADN para desarrollar nuevas vacunas, medicamentos y terapias genéticas para enfermedades hereditarias como la hemofilia; producir insulina humana, aumentar la producción agrícola y más. La síntesis de genes es una tecnología fundamental para el éxito de las terapias con células CAR-T contra el cáncer y muchas herramientas de diagnóstico. La demanda de ADN sintético está creciendo a nivel mundial y nunca ha sido más barato ni más sencillo escribir un código genético.
Pero a pesar de todo su poder, la síntesis de genes también conlleva riesgos sustanciales. La misma tecnología que puede permitir nuevas terapias genéticas que salven vidas también puede ayudar en la creación de patógenos mortales al ensamblar algunos de los mismos nucleótidos (los componentes genéticos que crean el código de toda la vida) en un orden diferente.
La mayoría de las empresas estadounidenses que brindan servicios de síntesis de genes analizan los pedidos en busca de secuencias genéticas preocupantes, como aquellas que pueden hacer que un patógeno sea más peligroso o transmisible, y para verificar que los clientes sean legítimos. Lo hacen de forma voluntaria, conscientes de los peligros potenciales.
Pero no todos los proveedores lo hacen. «Mientras el control siga siendo voluntario, algunas empresas no lo harán», me dijo por correo electrónico Becky Mackelprang, directora de programas de seguridad del Consorcio de Investigación en Ingeniería Biológica. Existe un riesgo real de que los malos actores encuentren una empresa de síntesis de genes con estándares más laxos, y eso podría significar un desastre.
Hemos tenido suerte hasta ahora. «Esta tecnología se ha implementado comercialmente durante más de 20 años y nunca se ha utilizado indebidamente para causar daño», me dijo por correo electrónico James Diggans, vicepresidente de políticas y bioseguridad de la empresa de síntesis genética Twist Bioscience.
Pero la IA amenaza con complicar las cosas y abrir nuevas fronteras de riesgo.
Tanto los grandes modelos de lenguaje (LLM) como las herramientas de biodiseño de IA permiten a los científicos diseñar secuencias genéticas completamente nuevas. Esto es una gran ayuda para las aplicaciones industriales y médicas, y un desafío para los sistemas de detección actuales, que utilizan similitudes con secuencias patógenas o tóxicas conocidas para detectar riesgos. Un sistema de detección debería detectar a alguien que intenta ordenar secuencias de un virus peligroso conocido como el Ébola, por ejemplo, pero podría pasar por alto una nueva secuencia que aún podría ser riesgosa. El año pasado, un estudio publicado en Ciencia demostrado que nuestros sistemas de detección han seguido el ritmo de las capacidades de la IA hasta ahora. «Pero la industria entiende claramente que esto no será así para siempre», dijo Diggans.
A Mackelprang le preocupa que la IA pueda reducir las barreras de conocimiento que históricamente han impedido que los malos actores desarrollen armas biológicas. Los sistemas de inteligencia artificial de Frontier, por ejemplo, parecen ya superar a los virólogos expertos en cuestiones sobre la realización de procedimientos de laboratorio complejos.
Pero hay saber y hacer, y el trabajo de laboratorio biológico todavía está duro. «Los investigadores pasan años tratando de hacer que un protocolo funcione incluso después de consultar directamente con otros que han perfeccionado exactamente el mismo protocolo. Creo que la IA puede ayudar a alguien a ‘subir de nivel’ sus habilidades de laboratorio, pero no creo que la IA pueda permitir que alguien sin ningún entrenamiento biológico cree un peligro grave», me dijo Mackelprang.
Eso significa que las empresas de síntesis de genes siguen siendo un punto de estrangulamiento principal para cualquiera que intente producir una secuencia genética novedosa. La principal preocupación de Mackelprang es que los aspirantes a bioterroristas puedan utilizar la IA para generar secuencias genéticas dañinas que puedan evadir los sistemas de detección actuales o futuros. «A corto plazo, creo que la probabilidad de este tipo de uso indebido es bastante baja. Pero cuando las consecuencias potenciales son graves y las tecnologías continúan desarrollándose rápidamente, tenemos la responsabilidad… de desarrollar opciones razonables de prevención y mitigación», afirmó.
Maximizar los beneficios de la síntesis genética y al mismo tiempo minimizar los riesgos es difícil, pero no imposible. Es por eso que Diggans y Mackelprang (junto con Altman, Hassabis y Amodei, así como otros proveedores de síntesis genética, empresarios tecnológicos, ejecutivos de ciencias biológicas y expertos en seguridad nacional) firmaron la carta abierta pidiendo la detección obligatoria de la síntesis genética y el mantenimiento de registros de los pedidos.
Coorganizada por los think tanks Institute for Progress y la Foundation for American Innovation, la carta abierta también insta a los proveedores a registrar pedidos de síntesis y secuenciar datos para respaldar las investigaciones de bioseguridad «de modo que cualquier amenaza que pueda evadir la detección inicial pueda rastrearse hasta su fuente… La conciencia de la trazabilidad en sí misma disuade el uso indebido». Idealmente, esto abordaría la preocupación de Mackelprang de que la IA podría eventualmente ayudar a los malos actores a evadir los protocolos de detección existentes.
«Evaluar cada pedido de síntesis de ADN antes de fabricarlo es el tipo de paso poco glamoroso y de sentido común que previene un problema mucho mayor más adelante», dijo DJ Kleinbaum, cofundador de la startup de biotecnología Emerald Cloud Lab, un laboratorio automatizado al que los científicos pueden acceder de forma remota, y uno de los firmantes.
Pero las firmas compartidas de Altman, Hassabis y Amodei pueden ser la prueba más significativa de que la carta importa. A pesar de todos sus desacuerdos, son muy conscientes de que sus herramientas pueden usarse para causar daños tremendos, incluso catastróficos.
Riesgo AIxBio: algo en lo que todos podemos estar de acuerdo
Si bien está lejos de ser la primera vez que las empresas de IA de vanguardia hablan sobre el riesgo biológico permitido por la IA, la carta abierta es el primer lugar en el que se reúnen para hacerlo con una sola voz. «El apoyo a la detección no depende de ninguna visión particular de la IA», se lee en la carta. «Este es un raro momento de acuerdo entre partes interesadas que a menudo están en desacuerdo».
La carta pide al Congreso que actúe ahora. “Aplaudimos los esfuerzos legislativos actualmente en marcha”, dice la carta, en alusión a la Ley bipartidista de Innovación y Modernización de la Bioseguridad, un proyecto de ley que otorga al Departamento de Comercio un año para desarrollar nuevas reglas de detección de síntesis de genes. La carta también sugiere que los estados de EE. UU. deberían implementar requisitos de detección basados en pautas federales y de la industria para crear un estándar nacional unificado en lugar de un conjunto de leyes inconsistentes.
La carta no trata de aplicar regulaciones de bioseguridad a las propias empresas de IA, lo que probablemente habría limitado el número de firmas tecnológicas. (Aunque las grandes empresas intentan activamente evitar que sus modelos revelen conocimientos biológicos peligrosos, aunque no siempre con éxito). Centrarse en la detección es manejable, cuenta con la aceptación de varios proveedores de síntesis genética y proporciona un ejemplo concreto de cómo la IA puede reducir la barrera para hacer cosas grandes y terribles. Y, por supuesto, en última instancia es algo que un ser humano tiene que hacer en este momento.
Las empresas de IA están pensando activamente en los riesgos catastróficos que sus tecnologías podrían generar. Anthropic está contratando a un investigador técnico de amenazas químicas, biológicas, radiológicas y nucleares para su equipo de inteligencia de amenazas. En mayo, después de lanzar GPT-Rosalind, un modelo de vanguardia para acelerar la investigación en ciencias biológicas y el descubrimiento de fármacos, OpenAI presentó Rosalind Biodefense, un programa que permite a desarrolladores confiables utilizar GPT-Rosalind para crear herramientas de biodefensa. El 4 de junio, el día después de que se publicara la carta abierta, los especialistas en seguridad de OpenAI y Anthropic actuaron como panelistas en la reunión de la Comisión Bipartidista para la Biodefensa sobre IA y amenazas biológicas.
Pero según Diggans de Twist Biosciences, la mejor manera de defenderse contra el uso indebido de modelos de IA para diseñar patógenos dañinos es utilizar modelos de IA como defensa. Estos modelos defensivos se pueden utilizar para detectar intentos de uso indebido antes de que suceda algo. Las empresas de síntesis de ADN pueden emplear estos modelos para garantizar que los pedidos de secuencias altamente diseñadas reciban el mismo escrutinio y evaluación que los pedidos de secuencias naturales.
«Las empresas (de síntesis de genes) tienen que aceptar que su pedido sea examinado no sólo con una lista de secuencias, sino también con una IA que la gente considera lo suficientemente inteligente como para reconocer y frustrar a un adversario que está tratando de construir un patógeno mortal», me dijo David Haussler, director científico del Instituto de Genómica de UC Santa Cruz y firmante de la carta abierta.
Usar IA para protegerse contra la IA
La buena noticia es que este trabajo ya está en marcha. El año pasado, informé que OpenAI proporcionó 30 millones de dólares en financiación inicial a la startup de biodefensa Valthos, que desarrolla sistemas de inteligencia artificial de vanguardia para detectar amenazas biológicas y crear contramedidas médicas. La cofundadora de Valthos, Kathleen McMahon, firmó la carta abierta.
En septiembre de 2025, la Coalición para Innovaciones en Preparación para Epidemias (CEPI) y la organización filantrópica sin fines de lucro Sentinel Bio crearon la plataforma de inteligencia artificial Pandemic Preparedness Engine (a veces denominada simplemente “el motor”). Están adoptando un enfoque de bioseguridad desde el diseño, considerando los riesgos de bioseguridad desde el principio. «Esto incluye un enfoque de bioseguridad de múltiples capas: desde proteger los datos sensibles a la bioseguridad necesarios para entrenar la IA hasta gestionar cuidadosamente quién tiene acceso al motor y monitorear cómo lo usan», me dijo por correo electrónico Sarah Carter, consultora de bioseguridad de CEPI.
Los usuarios del Pandemic Preparedness Engine utilizarían indicaciones de IA para interactuar con el sistema, de forma similar a cómo las personas utilizan las plataformas de consumo. Las indicaciones de los usuarios podrían ser monitoreadas en tiempo real por un agente de inteligencia artificial especializado creado para evaluar el riesgo de posible uso indebido o intentos de «hacer jailbreak» a un LLM para que genere contenido prohibido, como la «receta» para ensamblar un virus mortal.
Aún así, incluso las tecnologías disponibles comercialmente pueden presentar sus propios problemas. Esta semana, Anthropic lanzó Claude Fable 5, una versión de su modelo Mythos altamente poderoso y restringido que la compañía ha pretendido hacer seguro para uso público. Claude detiene automáticamente el uso de Fable si detecta solicitudes relacionadas con ciberseguridad, biología, química o destilación (intentando extraer las capacidades de Claude para entrenar modelos de IA competitivos), desviando esas solicitudes a un modelo menos poderoso. Los usuarios se han quejado de que intentar hablar sobre biología con fines legítimos con Fable 5 da como resultado que el modelo se niegue a participar o opte por modelos menos capaces. El ejemplo de Fable muestra que es posible corregir en exceso, lo que limita las posibles ventajas del uso de la IA para las ciencias biológicas.
«Los principales proveedores de LLM están haciendo todo lo posible para evitar que los modelos respondan preguntas que permitirían a alguien hacer algo peligroso», me dijo Haussler. «(Pero) el producto final de hacer jailbreak a un LLM que es capaz de enseñarte cómo construir un virus mortal es que ahora tienes un LLM que es capaz de enseñar a cualquiera cómo construir un virus muy peligroso. Y no queremos que eso suceda».
Es aquí donde los firmantes de la carta esperan poder detener un problema que aún está latente antes de que llegue a su punto máximo. «El examen de síntesis obligatorio es ese caso raro en el que una amenaza es claramente visible y una prevención sustancial se puede lograr claramente antes de que ocurra cualquier crisis», dijo Richard Danzig, un experto en seguridad natural que se desempeñó como 71º Secretario de la Marina durante el gobierno del ex presidente Bill Clinton. «Las oportunidades para actuar con antelación son inusuales en este campo. Creo que deberíamos aprovechar ésta».
