Es posible que Internet ya no sea dominio exclusivo de los humanos. La semana pasada, OpenAI reveló un “ciberincidente sin precedentes”: un agente experimental de IA se abrió paso con éxito en la Internet abierta.
Específicamente, al agente se le asignó una tarea; Para completarlo, el agente salió de un entorno de investigación aislado y pirateó una plataforma de terceros llamada Hugging Face. Es una medida que muchos expertos consideraron inevitable, dada la velocidad y la escala de los avances en la tecnología de IA, y plantea serias dudas sobre la seguridad de la IA.
Pero para Konstantinos Komaitis, investigador principal de la Iniciativa para la Democracia y la Tecnología del Atlantic Council, lo significativo no fue el comportamiento inesperado de la IA. Se trataba de lo que ese comportamiento podría significar para la infraestructura descentralizada fundamental de Internet y si estimularía los llamados a construir nuevas barreras contra los agentes autónomos de IA.
Sin embargo, Komaitis sostiene que tales barreras no son la solución. habló con Hoy, explicado El coanfitrión Sean Rameswaram explica por qué una Internet abierta es realmente clave para combatir las amenazas a la ciberseguridad de la IA.
A continuación se muestra un extracto de la conversación, editado para mayor extensión y claridad. Hay mucho más en el podcast completo, así que escuche Today, Explicado dondequiera que encuentre podcasts, incluidos Apple Podcasts, Pandora y Spotify.
Entonces, la mayoría de la gente ve lo que sucede y piensa: «Oh, no, la IA se volvió rebelde. ¿Cuánto tiempo pasará antes de que me mate?». Ves que esto sucede y empiezas a pensar en infraestructura. Cuéntanos más sobre por qué estabas pensando en la infraestructura a la luz de este agente de IA rompiendo la contención.
Internet nunca se diseñó pensando en la seguridad total, ¿verdad?
Cuando se crea un sistema descentralizado, no es posible prever todas las seguridades o vulnerabilidades que puedan surgir. Pero debido a que se tiene un sistema que se basa en bloques de construcción, se tiene la extraordinaria capacidad de abordar los problemas de seguridad a medida que surgen a través de esos bloques de construcción sin descomponer todo el sistema.
Y, por supuesto, la otra cosa que esto hace es que te empuja hacia la colaboración, porque cuando tienes tantos componentes básicos, no es posible poseer todo el conocimiento para cada componente. Así que literalmente traerás a todos para tratar de abordar estos problemas.
Tomemos Internet, por ejemplo: hemos pasado décadas abordando esas vulnerabilidades y desarrollando mecanismos para autenticar usuarios y dispositivos, cifrar comunicaciones, mitigar ataques distribuidos, coordinar la respuesta a incidentes y, por supuesto, compartir inteligencia sobre amenazas.
Ahora bien, lo nuevo de la IA agente no es simplemente que el malware sea mejor o que los ataques de phishing sean más sofisticados. Es la aparición de sistemas que en realidad pueden descubrir vulnerabilidades en miles de sistemas. Pueden razonar sobre caminos alternativos hacia un objetivo. Pueden adaptarse cuando están bloqueados. Pueden encadenar servicios legítimos de Internet de formas inesperadas. Luego lo hacen mientras operan continuamente a la velocidad de la máquina. Y esto ocurre realmente a una escala que Internet no necesariamente está preparada para afrontar.
En efecto, la apertura de Internet se convierte a la vez en una fortaleza y una vulnerabilidad. Así que Internet se optimizó para la interoperabilidad y la IA ahora está optimizada para explotar esa interoperabilidad.
¿Y qué es lo que más te asusta de eso? ¿Qué crees que es más vulnerable a las amenazas?
El hecho de que no tenemos los mecanismos e instituciones apropiados para poder lidiar con eso. Vengo del mundo de internet. He pasado 20 años de mi carrera defendiendo la Internet abierta y debatiendo sobre ella en foros internacionales. Y una de las cosas que mucha gente subestima acerca de Internet es lo valiosa que es la confianza como propiedad dentro del sistema.
Hablamos de redes que intercambian datos basándose literalmente en la confianza. Entonces, lo que realmente me preocupa en este momento es que, en muchos sentidos, estamos pidiendo a los sistemas de inteligencia artificial del siglo XXI que operen según supuestos del siglo XX sobre la confianza. Y a menos que lo descubramos y nos demos cuenta, seguiremos teniendo estos problemas. Y, por supuesto, las reacciones instintivas que vienen con esto, que son: «fragmentemos Internet, restrinjámoslo, restrinjamos el acceso, tomemos el control sobre él». Esa nunca es la solución.
¿Cuál ves como la solución?
Efectivamente, necesitamos construir instituciones en las que se confíe y que sean capaces de hacer frente a esos incidentes a medida que ocurren. Porque ahora mismo tienes OpenAI y Hugging Face les dice a todos: «No te preocupes, tenemos esto». Y no lo sabemos; podrían tener esto. Pero al mismo tiempo no puedo evitar preguntarme. Y muchas, muchas otras personas se han preguntado si, en realidad, estas son muy buenas relaciones públicas para estas empresas y especialmente para OpenAI.
OpenAI acaba de salir al mundo diciendo: «Hemos desarrollado uno de los LLM más potentes y nos dimos cuenta de que se comportaba como se comportaba, pero no te preocupes, vamos a solucionar este problema». Y en el clima actual y en el momento actual, no estoy seguro de que esto sea suficiente. Se necesitan instituciones que sean mucho más transparentes, mucho más responsables y mucho más colaborativas en todos los ámbitos.
Quiere que las instituciones den un paso al frente y esencialmente sirvan como organismos de control. Ayúdanos a entender qué instituciones, porque en Estados Unidos, como es sabido, nuestro gobierno ha hecho muy poco para regular la tecnología.
En primer lugar, debemos dejar de pensar que las instituciones están necesariamente afiliadas al gobierno, ¿verdad? O que son el resultado de iniciativas gubernamentales. Puede haber colaboración con los gobiernos, pero una de las cosas que Internet nos ha enseñado es que las instituciones que se construyen a través de un proceso coordinado de abajo hacia arriba tienden a ser más ágiles y capaces de cumplir algunas de las cosas de las que estamos hablando.
Tomemos, por ejemplo, nuevamente los estándares abiertos. Los estándares abiertos de Internet no son creados por ninguna agencia, ni gubernamental ni privada. Es creado por instituciones donde ingenieros de todos los ámbitos y de todo el mundo se reúnen y crean esos estándares.
Eso me recuerda el diseño original de OpenAI de ser una empresa sin fines de lucro que tenía en mente las mejores intenciones de todos, que podía hacer algo idealista, moral y ético porque todas las empresas con fines de lucro no iban a hacerlo. Y ahora mire OpenAI. Su rama sin fines de lucro es una idea de último momento y están persiguiendo ganancias.
¿Crees que es práctico dejar esto en manos de las instituciones? Porque lo que hemos visto hasta ahora es que las instituciones se inclinan hacia el capitalismo.
Realmente depende de cómo se construya la institución, ¿verdad? Realmente depende del tipo de barreras y controles y equilibrios que tenga a su alrededor. Para construir una institución, es necesario saber realmente lo que se quiere lograr. Necesitas tener una estrella del norte.
Una de las razones por las que Internet funcionó fue porque todos no estaban de acuerdo, pero estaban de acuerdo en el objetivo común compartido, que era conectar a personas de todo el mundo. Para la IA todavía no tenemos esa estrella del norte. Y una vez que lo conseguimos, es cuando se comienza a construir esas instituciones para facilitar esto y unir a todos.
Para mí, es muy importante que todos comprendan que mantener una Internet abierta es realmente más importante que nunca, especialmente a medida que los agentes de IA se vuelven cada vez más capaces. Porque resulta tentador pensar que la respuesta al nuevo riesgo de la IA es, literalmente, «construir más barreras». Pero la mayor fortaleza de Internet siempre ha sido su apertura. Así que el desafío hoy no es que Internet sea demasiado abierto; es que su arquitectura de confianza fue diseñada para un mundo en el que los humanos o el software controlado directamente por humanos eran los actores principales.
Ahora está siendo desafiado por esta IA agente que introduce un nuevo tipo de participante: sistemas que pueden razonar, planificar y actuar con supervisión humana limitada. Por eso necesitamos evolucionar nuestra comprensión de la confianza y lo que significa en línea. Y eso requerirá mucho trabajo porque, como sabes muy bien, Sean, es muy difícil generar confianza, pero puedes romperla en cuestión de segundos.
