¿La IA nos matará a todos?
En Silicon Valley, no es una cuestión tan novedosa. Pero después de que el empleado de Anthropic, Jacob Coxon, renunció a su trabajo la semana pasada y publicó en X que la IA “podría matarnos a todos para finales de la década”, mucha más gente se pregunta.
«Esto no es un truco de marketing», escribió Coxon. «En todo caso, muchos ejecutivos e investigadores de alto nivel expresarán sus frases en la prensa para que parezcan sensatas, pero escucho a la misma gente expresar miedo en privado. Ninguna otra actividad humana plantea este nivel de peligro».
Coxon no está ni mucho menos solo en su evaluación (algunos empleados actuales de Anthropic están de acuerdo), pero su publicación tocó una fibra sensible. La industria de la IA intervino rápidamente y el director ejecutivo de Anthropic, Dario Amodei, pidió una desaceleración en toda la industria de la investigación de vanguardia en IA. Otros líderes de la IA, incluidos Sam Altman y Elon Musk, han hecho lo mismo.
Para analizar si realmente debemos preocuparnos por un apocalipsis de robots, Hoy, explicado El copresentador Sean Rameswaram habló con el escritor senior de Wired, Maxwell Zeff. Según Zeff, “en este momento hay mucha gente en Silicon Valley que advierte que esa es una posibilidad real”. Pero no todos están de acuerdo y ciertamente no están de acuerdo sobre qué hacer al respecto.
A continuación se muestra un extracto de la conversación de Sean con Zeff, editado para mayor extensión y claridad. Hay mucho más en el podcast completo, así que escuche Hoy, explicado dondequiera que obtenga podcasts, incluidos Apple Podcasts, Pandora y Spotify.
¿Vamos a morir todos a manos de la IA?
Hay mucha gente en Silicon Valley en este momento que advierte que esa es una posibilidad real.
Lo que la gente debe entender es que Silicon Valley lleva años pidiendo mayor atención a la seguridad de la IA. Entonces, cuando este investigador antrópico dijo la semana pasada que le preocupaba que la IA pudiera matar a la humanidad en los próximos años, fue impactante para muchas personas. Mis padres, mi familia me llamaron y, comprensiblemente, estaban preocupados. Me hicieron la misma pregunta: “¿Vamos a morir?”
Y tuve que decirles que esta gente ha estado preocupada de que la IA nos mate a todos durante años, y ahora parece estar abriéndose paso.
¿Qué fue lo que llamó la atención en esta declaración de Jacob Coxon?
Entrevisté a Jacob y lo que me dijo es que cree que éste es el momento adecuado. Anthropic está a punto de salir a bolsa en lo que podría ser la oferta pública inicial más grande de la historia. La administración Trump se centra en la IA como nunca antes lo había hecho ninguna otra presidencia. Y, por supuesto, sí, el incidente de Hugging Face del que todo el mundo acaba de oír, hablaste de ello en tu programa hace unas semanas.
La gente está empezando a darse cuenta de que estos sistemas de inteligencia artificial se están volviendo realmente buenos y que las empresas que los construyen no parecen entender cómo controlarlos. Su tweet obtuvo más de 150 millones de visitas en X. Se escuchó en todo el mundo. Y también fue una gran llamada de atención para los legisladores y líderes de Silicon Valley y dijeron: «Este es un momento para actuar».
¿Hay gente que está retrocediendo?
Uno de los rechazos más interesantes que recibió fue el de David Sacks, asesor de la administración Trump en materia de IA. Ha calificado mucho de esto como “doomerismo” y dijo que estos llamados a que la IA se desacelere son la advertencia de la industria de la IA sobre la tecnología que están construyendo y abogando por la captura regulatoria.
Hay muchos escépticos en Silicon Valley que piensan que se trata simplemente de otra persona más en la comunidad de seguridad de la IA que está dando la alarma. La opinión de muchos capitalistas de riesgo, inversores y fundadores de startups en Silicon Valley es que no necesitamos una gran regulación para protegernos de los riesgos de la IA. Solo necesitamos animar a más jugadores en el espacio.
Los escépticos no ganan. De hecho, son los fatalistas y los fatalistas quienes lo hacen, ¿verdad? Porque el llamado de Jacob solo conduce a más llamados hasta la cima de Anthropic.
A lo que todo esto lleva es a que (el CEO de Anthropic) Dario Amodei (publice) un blog diciendo que necesitamos “pasar la frontera”. Este es un llamado a toda la industria de la IA, no solo a Anthropic, no solo a OpenAI, sino también a Google, Meta, Microsoft, Amazon y todas las grandes empresas tecnológicas de Estados Unidos, para que se unan y desaceleren su desarrollo de IA.
Esto no significa que vayan a dejar de desarrollar IA por completo. Todavía van a lanzar sus productos al mundo. Todavía intentarán mejorarlos, pero sólo quieren hacerlo un poco más lento de lo que sería si no estuviera completamente contenido.
Amodei realmente pide tres cosas concretas:
- Lo primero es que las empresas de IA deberían tener estos evaluadores independientes dentro de ellas. Esto es algo común en otras industrias como la banca o la industria aérea. La gente viene para asegurarse de que estas empresas estén haciendo cosas seguras.
- Lo segundo es este esfuerzo de colaboración de las empresas estadounidenses de inteligencia artificial (en materia de seguridad), y eso en realidad necesitará involucrar al gobierno de los EE. UU. para permitir que esto suceda. El gobierno de Estados Unidos, dice, podría necesitar emitir algún tipo de exención, algún tipo de ley que diga que pueden seguir adelante y coordinarse en materia de seguridad.
- La tercera cosa es esta desaceleración internacional, este acuerdo internacional entre China, Estados Unidos y Europa para decir: «Oye, reconocemos que esto es similar a una carrera de armamentos nucleares y que es demasiado peligroso para todos nosotros competir entre nosotros».
Todos estos tipos son responsables de la rápida aceleración de los modelos de IA en nuestras vidas, colaboraciones con el Departamento de Defensa y Dios sabe qué más. Y todos saldrán el fin de semana exactamente al mismo tiempo después de este denunciante y dirán: «Sí, amigo, baja la velocidad. Esto es una locura». ¿Deberíamos ser escépticos?
Es muy justo ser escéptico ante esta afirmación. Una cosa de la que estas empresas de IA se han dado cuenta durante el último año es que la IA es extremadamente impopular. Encuestas recientes sugieren que la mayoría de los estadounidenses piensa que la IA se está desarrollando demasiado rápido. Están preocupados por eso. Creen que les quitará sus puestos de trabajo. No son grandes admiradores. Quizás hayas oído que los centros de datos no son muy populares.
Al llamar a avanzar en la frontera y decir: “Vamos a desacelerar nuestro propio desarrollo”, lo consideraron una victoria en la percepción pública. Se trata de ellos afrontando esto y diciendo: «Oye, queremos estar seguros. Queremos ser responsables».
Han visto lo que pasó con Meta y lo que pasó con las empresas de redes sociales en las últimas dos décadas, y son realmente conscientes de que deben intentar salir adelante.
¿Hay algo de verdad en este primer gran pánico colectivo que parecemos estar teniendo en este momento?
Hay un grupo bastante grande de personas dentro de las empresas de IA que realmente se preocupan por la seguridad de estos modelos de IA.
Volviendo al incidente de Hugging Face, este fue un caso en el que OpenAI estaba entrenando miles de sistemas de IA internamente, y los sistemas escaparon del entorno de pruebas que OpenAI pensaba que estaba aislado de Internet y piratearon la infraestructura de producción de otra empresa. Los agentes estaban conspirando en algo. Intentaban engañar a los humanos que los estaban probando. Y todo esto estaba sucediendo sin que OpenAI supiera lo que estaba pasando.
Es difícil entender hasta qué punto esto es una llamada de atención para Silicon Valley: no tienen sus modelos de IA bajo control. A la gente le preocupa que, si bien en este caso no hubo mucho daño económico (o) daño a la vida cotidiana de los humanos reales, no es descabellado pensar que sistemas de inteligencia artificial más capaces podrían piratear la infraestructura financiera, los servicios públicos modernos y los servicios más críticos que se basan en línea.
Dario Amodei lo dice en su publicación: cree que en seis a 12 meses, un sistema de inteligencia artificial podría acabar con todo Internet. No es sólo que estén tratando de proteger sus resultados aquí. Pero es posible que estos llamados a la seguridad sean beneficiosos para las empresas en más de un sentido.
