Grandes noticias para la búsqueda de la inteligencia artificial general, o IA que tenga inteligencia a nivel humano en todos los ámbitos. OpenAI, que describe su misión como “garantizar que AGI beneficie a toda la humanidad”, finalizó ayer su plan de reestructuración corporativa que lleva mucho tiempo en marcha. Podría cambiar por completo la forma en que abordamos los riesgos de la IA, especialmente los biológicos.
Primero, un repaso rápido: OpenAI se fundó originalmente como una organización sin fines de lucro en 2015, pero ganó una rama con fines de lucro cuatro años después. La organización sin fines de lucro ahora se llamará Fundación OpenAI, y la subsidiaria con fines de lucro ahora es una corporación de beneficio público, llamada OpenAI Group. (Las PBC tienen requisitos legales para equilibrar la misión y las ganancias, a diferencia de otras estructuras). La fundación seguirá controlando el Grupo OpenAI y tendrá una participación del 26 por ciento, que estaba valorada en alrededor de 130 mil millones de dólares al cierre de la recapitalización. (Divulgación: Diario Angelopolitano Media es uno de varios editores que han firmado acuerdos de asociación con OpenAI. Nuestros informes siguen siendo editorialmente independientes).
«Creemos que la tecnología más poderosa del mundo debe desarrollarse de una manera que refleje los intereses colectivos del mundo», escribió OpenAI en una publicación de blog.
Uno de los primeros pasos de OpenAI (además del gran acuerdo con Microsoft) es la fundación que destina 25 mil millones de dólares para acelerar la investigación en salud y apoyar “soluciones técnicas prácticas para la resiliencia de la IA, que consiste en maximizar los beneficios de la IA y minimizar sus riesgos”.
Maximizar los beneficios y minimizar los riesgos es el desafío esencial en torno al desarrollo de una IA avanzada, y ningún tema representa mejor ese filo que las ciencias biológicas. El uso de la IA en biología y medicina puede fortalecer la detección de enfermedades, mejorar la respuesta y avanzar en el descubrimiento de nuevos tratamientos y vacunas. Pero muchos expertos piensan que uno de los mayores riesgos de la IA avanzada es su potencial para ayudar a crear agentes biológicos peligrosos, reduciendo la barrera de entrada para lanzar ataques mortales con armas biológicas.
Y OpenAI es muy consciente de que sus herramientas podrían utilizarse indebidamente para ayudar a crear armas biológicas.
La empresa fronteriza de IA ha establecido salvaguardas para su agente ChatGPT, pero estamos en los primeros días de lo que las capacidades biológicas de IA pueden hacer posible. Es por eso que otra noticia reciente (que el Startup Fund de OpenAI, junto con Lux Capital y Founders Fund, proporcionó 30 millones de dólares en financiación inicial para Valthos, una startup de biodefensa con sede en Nueva York) puede resultar casi tan importante como la compleja reestructuración corporativa de la compañía.
Valthos tiene como objetivo construir la “pila tecnológica” de próxima generación para la biodefensa, y rápidamente. “A medida que avanza la IA, la vida misma se vuelve programable”, escribió la compañía en una entrada introductoria del blog después de salir del sigilo el viernes pasado. «El mundo se está acercando al acceso casi universal a poderosas biotecnologías de doble uso capaces de eliminar enfermedades o crearlas».
Quizás se pregunte si el mejor curso de acción es frenar por completo estas herramientas, con su potencial catastrófico y destructivo. Pero eso no es realista en un momento en el que nos apresuramos hacia avances (e inversiones) en IA a velocidades cada vez mayores. Al final del día, la apuesta esencial aquí será si la IA que desarrollemos desactiva los riesgos que serán causados por… la IA que desarrollemos. Es una pregunta que se vuelve aún más importante a medida que OpenAI y otros avanzan hacia AGI.
¿Puede la IA protegernos de los riesgos que conlleva?
Valthos imagina un futuro en el que cualquier amenaza biológica a la humanidad pueda ser «identificada y neutralizada inmediatamente, ya sea que el origen sea externo o dentro de nuestros propios cuerpos. Construimos sistemas de inteligencia artificial para caracterizar rápidamente secuencias biológicas y actualizar medicamentos en tiempo real».
Esto podría permitirnos responder más rápidamente a los brotes, evitando potencialmente que las epidemias se conviertan en pandemias. Podríamos reutilizar terapias y diseñar nuevos fármacos en un tiempo récord, ayudando a decenas de personas con enfermedades que son difíciles de tratar eficazmente.
Ni siquiera estamos cerca de AGI en biología (ni nada), pero no tenemos que estarlo para que haya riesgos significativos de las capacidades biológicas de la IA, como la creación intencional de nuevos patógenos más mortales que cualquier cosa en la naturaleza, que podrían liberarse deliberada o accidentalmente. Esfuerzos como el de Valthos son un paso en la dirección correcta, pero las empresas de IA todavía tienen que seguir el camino.
«Soy muy optimista sobre el potencial de mejora y los beneficios que la sociedad puede obtener de las capacidades biológicas de la IA», dijo Jaime Yassif, vicepresidente de políticas y programas biológicos globales de la Nuclear Threat Initiative. «Sin embargo, al mismo tiempo, es esencial que desarrollemos e implementemos estas herramientas de manera responsable».
(Divulgación: solía trabajar en NTI).
Pero Yassif sostiene que todavía queda mucho trabajo por hacer para perfeccionar el poder predictivo de las herramientas de IA para la biología.
Y la IA no puede ofrecer sus beneficios de forma aislada por ahora: tiene que haber una inversión continua en las otras estructuras que impulsan el cambio. La IA es parte de un ecosistema más amplio de innovación biotecnológica. Los investigadores todavía tienen que hacer mucho trabajo de laboratorio, realizar ensayos clínicos y evaluar la seguridad y eficacia de nuevas terapias o vacunas. También tienen que difundir esas contramedidas médicas entre las poblaciones que más las necesitan, lo cual es muy difícil de hacer y está plagado de burocracia y problemas de financiación.
Los malos actores, por otro lado, pueden operar aquí y ahora, y podrían afectar las vidas de millones de personas mucho más rápido de lo que se necesita para que se obtengan los beneficios de la IA, particularmente si no hay formas inteligentes de intervenir. Por eso es tan importante que las salvaguardas destinadas a proteger contra la explotación de herramientas beneficiosas puedan a) implementarse en primer lugar yb) mantenerse al día con los rápidos avances tecnológicos.
SaferAI, que califica las prácticas de gestión de riesgos de las empresas de IA de vanguardia, clasifica a OpenAI como el segundo mejor marco después de Anthropic. Pero todos tienen más trabajo por hacer. «No se trata sólo de quién está en la cima», dijo Yassif. «Creo que todo el mundo debería hacer más».
A medida que OpenAI y otros se acercan a una IA más inteligente que la humana, la cuestión de cómo maximizar los beneficios y minimizar los riesgos de la biología nunca ha sido más importante. Necesitamos una mayor inversión en biodefensa y bioseguridad de IA en todos los ámbitos a medida que las herramientas para rediseñar la vida misma se vuelven cada vez más sofisticadas. Así que espero que utilizar la IA para abordar sus riesgos sea una apuesta que dé sus frutos.
