Planificación de menús, terapia, redacción de ensayos, ciberataques globales altamente sofisticados: la gente sigue ideando nuevos usos innovadores para los últimos chatbots de IA.
Esta semana se alcanzó un nuevo hito alarmante cuando la empresa de inteligencia artificial Anthropic anunció que su asistente insignia de IA, Claude, fue utilizado por piratas informáticos chinos en lo que la empresa llama la «primera campaña de ciberespionaje orquestada por IA».
Según un informe publicado por Anthropic, a mediados de septiembre, la compañía detectó una operación de ciberespionaje a gran escala por parte de un grupo al que llaman GTG-1002, dirigida a «importantes corporaciones tecnológicas, instituciones financieras, empresas de fabricación de productos químicos y agencias gubernamentales en varios países».
Ataques como ese no son inusuales. Lo que hace que este se destaque es que entre el 80 y el 90 por ciento fue realizado por IA. Después de que los operadores humanos identificaron las organizaciones objetivo, utilizaron a Claude para identificar bases de datos valiosas dentro de ellas, probar vulnerabilidades y escribir su propio código para acceder a las bases de datos y extraer datos valiosos. Los humanos participaron sólo en algunos puntos críticos para dar indicaciones a la IA y verificar su trabajo.
Claude, al igual que otros grandes modelos de lenguajes importantes, viene equipado con protecciones para evitar que se utilice para este tipo de actividad, pero los atacantes lograron «hacer jailbreak» al programa dividiendo su tarea en partes más pequeñas y plausiblemente inocentes y diciéndole a Claude que eran una empresa de ciberseguridad que realizaba pruebas defensivas. Esto plantea algunas preguntas preocupantes sobre el grado en que se pueden maniobrar las salvaguardias en modelos como Claude y ChatGPT, particularmente dadas las preocupaciones sobre cómo podrían usarse para desarrollar armas biológicas u otros materiales peligrosos del mundo real.
Anthropic admite que Claude en ocasiones durante la operación «alucinó credenciales o afirmó haber extraído información secreta que de hecho estaba disponible públicamente». Incluso los piratas informáticos patrocinados por el Estado tienen que estar atentos a que la IA invente cosas.
El informe plantea la preocupación de que las herramientas de inteligencia artificial hagan que los ciberataques sean mucho más fáciles y rápidos de llevar a cabo, aumentando la vulnerabilidad de todo, desde los sensibles sistemas de seguridad nacional hasta las cuentas bancarias de los ciudadanos comunes.
Aún así, todavía no estamos en una ciberanarquía completa. El nivel de conocimiento técnico necesario para que Claude haga esto aún está más allá del troll promedio de Internet. Pero los expertos llevan años advirtiendo que los modelos de IA pueden usarse para generar código malicioso para estafas o espionaje, un fenómeno conocido como “vibe hacking”. En febrero, los competidores de Anthropic en OpenAI informaron que habían detectado actores maliciosos de China, Irán, Corea del Norte y Rusia utilizando sus herramientas de inteligencia artificial para ayudar con operaciones cibernéticas.
En septiembre, el Centro para una Nueva Seguridad Estadounidense (CNAS) publicó un informe sobre la amenaza de la piratería informática basada en la IA. Explicó que las partes de la mayoría de las operaciones cibernéticas que consumen más tiempo y recursos se encuentran en sus fases de planificación, reconocimiento y desarrollo de herramientas. (Los ataques en sí suelen ser rápidos). Al automatizar estas tareas, la IA puede cambiar las reglas del juego ofensivo, y eso parece ser exactamente lo que ocurrió en este ataque.
Caleb Withers, autor del informe CNAS, dijo a Diario Angelopolitano que el anuncio de Anthropic estaba «de moda», considerando los recientes avances en las capacidades de la IA y que «el nivel de sofisticación con el que la IA puede hacer esto de forma en gran medida autónoma, seguirá aumentando».
La ciberguerra en la sombra de China
Anthropic dice que los piratas informáticos dejaron suficientes pistas para determinar que eran chinos, aunque la embajada china en Estados Unidos describió la acusación como “difamación y calumnia”.
En cierto modo, esto es una pluma irónica en el sombrero para Anthropic y la industria de la IA de EE. UU. en su conjunto. A principios de este año, el gran modelo de lenguaje chino DeepSeek causó conmoción en Washington y Silicon Valley, sugiriendo que a pesar de los esfuerzos de Estados Unidos para estrangular el acceso chino a los chips semiconductores avanzados necesarios para desarrollar modelos de lenguaje de IA, el progreso de China en IA estaba sólo ligeramente por detrás del de Estados Unidos. Por lo tanto, parece al menos un tanto revelador que incluso los hackers chinos todavía prefieran un chatbot hecho en EE. UU. para sus ciberexplotaciones.
Durante el último año ha habido una creciente alarma sobre la escala y la sofisticación de las ciberoperaciones chinas dirigidas a Estados Unidos. Estos incluyen ejemplos como Volt Typhoon –una campaña para posicionar preventivamente ciberactores patrocinados por el estado en los sistemas de TI de EE. UU., para prepararlos para llevar a cabo ataques en caso de una crisis o conflicto importante entre EE. UU. y China– y Salt Typhoon, una campaña de espionaje que ha apuntado a empresas de telecomunicaciones en docenas de países y a las comunicaciones de funcionarios, incluidos el presidente Donald Trump y el vicepresidente JD Vance, durante la campaña presidencial del año pasado.
Las autoridades dicen que la escala y la sofisticación de estos ataques van mucho más allá de lo que hemos visto antes. También puede ser sólo un adelanto de lo que vendrá en la era de la IA.
