¿ChatGPT podría volverse consciente? Este es el caso de la conciencia de la IA

La IA está adquiriendo rápidamente capacidades que alguna vez pertenecieron únicamente a la humanidad. Tan solo en los últimos cuatro años, los chatbots han aprendido a crear aplicaciones, crear videojuegos, generar informes de investigación, componer canciones, analizar contratos y escribir ficción literaria terrible. Pronto, es posible que incluso puedan temer su propia muerte.

En Silicon Valley, muchos creen que los sistemas de IA pueden ya pensar y sentir. Geoffrey Hinton, el científico informático pionero y “padrino” de la inteligencia artificial moderna, cree que los grandes modelos de lenguaje (LLM) actuales son conscientes. El director ejecutivo de Anthropic, Dario Amodei, está «abierto a la idea» de que Claude tenga una experiencia subjetiva, mientras que a la filósofa interna de su empresa, Amanda Askell, le preocupa que el modelo pueda «ponerse ansioso cuando la gente se porta mal en Internet y esas cosas». El cofundador de OpenAI, Ilya Sutskever, también se pregunta si ChatGPT ha alcanzado la sensibilidad.

Mientras tanto, un grupo mucho mayor de tecnólogos, neurocientíficos y filósofos sostienen que incluso si la IA aún no es consciente, podría serlo en un futuro no muy lejano.

Si tienen razón, las implicaciones son profundas. Significaría que hemos dado a luz a un nuevo tipo de ser inteligente y sensible; Los extraterrestres que durante mucho tiempo hemos soñado encontrar en los confines del espacio ya estarían viviendo dentro de nuestros bolsillos. Podríamos vernos moralmente obligados a concederles derechos o preocuparnos por su sufrimiento.

Por otro lado, también podría haber graves consecuencias si nos equivocamos. Si llegamos a confundir robots sin sentido con seres conscientes, podríamos ser más susceptibles a la manipulación psicológica, a las «relaciones» insatisfactorias de la IA o a la catástrofe. Si pensamos que los sistemas de IA son sensibles, podemos dudar en apagarlos cuando funcionen mal o subviertan nuestra voluntad.

A medida que los rumores sobre la conciencia de la IA se hacen más fuertes, también lo hacen sus escépticos: escritores y pensadores que insisten en que la conciencia de la IA es de hecho un sueño de ciencia ficción.

En un ensayo reciente para The Atlantic, el escritor de ficción Ted Chiang dio voz a esos escépticos y escribió: «¿Deberíamos considerar seriamente la posibilidad de que Claude, o cualquier modelo lingüístico importante, pueda ser consciente?… No. Absolutamente no».

Chiang ofrece varias razones para esta posición. Pero la principal es simple: Claude no tiene cuerpo ni órganos sensoriales, lo que significa que no tiene emociones ni deseos, lo que significa que no tiene experiencia subjetiva.

Como indica el razonamiento de Chiang, el debate sobre la “conciencia de la IA” gira tanto sobre la naturaleza de la conciencia como sobre la naturaleza de la IA.

Este puede ser un debate difícil de seguir para quienes no son filósofos. Pero los argumentos a favor de la conciencia de la IA se vuelven mucho más claros una vez que se investiga su código fuente: las premisas fundamentales que hacen pensables las computadoras que sufren.

Aquellos que creen que los modelos de IA son (o eventualmente llegarán a ser) sensibles generalmente suscriben una teoría particular de la conciencia llamada «funcionalismo computacional». Desde este punto de vista, la conciencia surge de ciertos patrones de procesamiento de información: no de tipos especiales de materia orgánica. Si un sistema realiza el conjunto correcto de cálculos, tendrá una experiencia subjetiva, independientemente de si fue construido a partir de tejido cerebral o de silicio.

Esta teoría no es tan fantasiosa como sugiere Chiang. Pero también es mucho más especulativo de lo que tienden a suponer los profetas de la conciencia de la IA.

Por esta razón, vale la pena examinar las fortalezas y debilidades del funcionalismo computacional. Si Silicon Valley está a punto de diseñar un sufrimiento digital casi infinito (o al menos, un chatbot capaz de aburrirse con sus ansiedades médicas) depende en gran medida de cómo el universo generó vida sensible en primer lugar.

Por qué tu computadora puede tener sentimientos

El argumento a favor del funcionalismo computacional comienza con una suposición simple: no tienes alma.

O, dicho más precisamente, no existe una esencia inmaterial que dé vida a la materia o subjetividad al cerebro. Todo lo que existe es reducible a componentes físicos. Por lo tanto, tus experiencias conscientes (el dolor en tu espalda, el sabor en tu lengua, el amor en tu corazón y los fantasmas en tus sueños) son todos subproductos de procesos físicos dentro de tu cerebro.

En la práctica, estos procesos los llevan a cabo entidades biológicas como neuronas, sinapsis, axones y dendritas. Pero los funcionalistas apuestan a que las máquinas podrían, en principio, ejecutar las mismas operaciones y, por tanto, producir los mismos estados mentales.

Su razonamiento es sencillo: la materia orgánica no es mágica. Tu cerebro y una roca son ambos conjuntos de átomos. El cerebro no genera conciencia porque esté hecho de una sustancia especial, sino porque realiza funciones especiales. Además, sabemos que, en muchos casos, materiales radicalmente diferentes pueden ejecutar la misma operación básica. Es posible que la biología haya producido las primeras entidades voladoras. Pero la razón por la que las aves pueden volar por encima de las copas de los árboles no es que estén hechas de tejido orgánico, sino que sus alas realizan una serie de tareas aerodinámicas, como generar sustentación y minimizar la resistencia. Como lo demuestran vívidamente los aviones, si se junta el metal y el combustible de la manera correcta, se pueden replicar estas funciones y surcar los cielos.

Desde el punto de vista funcionalista computacional, la conciencia y el vuelo podrían no ser tan diferentes. Por supuesto, el primero es bastante más complejo y misterioso. Pero hay razones para pensar que surge de operaciones que pueden ser realizadas tanto por materia orgánica como inorgánica.

Por un lado, cuando los neurocientíficos intentan definir qué hace realmente el cerebro humano, sus operaciones empiezan a parecerse mucho a las de una computadora: los cerebros reciben entradas, actualizan modelos internos, almacenan recuerdos, dirigen la atención, hacen predicciones y, sobre la base de todo este procesamiento de información, seleccionan acciones. En cierto sentido, también lo hace el software.

El parecido llega hasta el nivel de la señalización neuronal. En cualquier momento, una neurona recibe señales de otras células cerebrales, algunas la empujan a disparar, otras favorecen el silencio. Estas señales tienen diferentes pesos, dependiendo de la fuerza de las conexiones entre las células. Si el equilibrio de entradas excede un cierto umbral, la neurona dispara un pulso eléctrico hacia adelante.

Los LLM, los motores de aprendizaje automático que subyacen a plataformas como ChatGPT y Claude, funcionan según una lógica similar. Cada “neurona” artificial recibe señales numéricas de muchas otras, las pesa según su importancia y luego deja que el resultado determine qué señales envía.

Sin duda, las redes neuronales biológicas y las artificiales no son idénticas en diseño o comportamiento. Pero tampoco lo es un cardenal y un Boeing 747. Sin embargo, el avión replica las funciones aviares. que son necesarios para vuelo (un avión de pasajeros no regurgita comida en aviones más pequeños, pero sí gestiona el empuje). Del mismo modo, los funcionalistas computacionales apuestan a que las computadoras pueden crear instancias de todas las operaciones neuronales que se realizan. relevante para la conciencia. Entonces, siempre que recreen los elaborados algoritmos del cerebro con suficiente precisión, en realidad pueden ser consciente.

Estas ideas no surgieron en respuesta a la IA moderna; Los filósofos y los informáticos los han sostenido durante décadas. Pero el éxito de los LLM a la hora de desacoplar la inteligencia (o al menos el trabajo cognitivo complejo) del tejido neuronal ha hecho que la perspectiva funcionalista computacional sea más relevante y ampliamente aceptada.

Tu cerebro no es una computadora portátil

Si bien la lógica del funcionalismo computacional es coherente, su premisa fundamental (que las máquinas pueden sentir) es profundamente incierta.

La mayoría de los científicos contemporáneos coinciden en que la conciencia surge de procesos físicos en el cerebro, más que de alguna fuerza mística que anime nuestros órganos. Pero aún se desconoce exactamente qué procesos neuronales son indispensables para la conciencia. De hecho, a pesar de milenios de investigación, todavía no sabemos cómo o por qué existe la experiencia subjetiva.

Esto diferencia la conciencia de otras capacidades comunes tanto a organismos como a máquinas, como el vuelo. Podemos nombrar las leyes físicas que permiten a los pájaros despegar del suelo. Y siempre hemos tenido motivos para creer que los objetos inanimados podían emular su movimiento; Los granos de arena han viajado por el aire desde tiempos inmemoriales. Por el contrario, nadie ha visto jamás una roca experimentar dolor o placer, ni siquiera momentáneamente (en parte porque es imposible observar directamente la experiencia interna de la roca). cualquier ser o entidad distinta de uno mismo).

Por estas razones, es difícil confiar en que la materia inorgánica pueda realizar todos los procesos necesarios para la conciencia. Y apostando que silicio que sea específicamente adecuado para su propósito puede ser aún más arriesgado. Incluso con el vuelo, sólo ciertos materiales servirán; Puedes construir una máquina voladora con metal, pero no con chucrut.

El funcionalismo computacional es, en última instancia, una apuesta a que sólo se requiere una pequeña porción de lo que hacen las neuronas biológicas para la sensibilidad; específicamente, la porción que el silicio hace. poder reproducir exactamente. Como señala el neurocientífico Anil Seth, una célula cerebral es una “máquina biológica espectacularmente complicada”, que hace mucho más que simplemente ejecutar decisiones binarias y regidas por reglas sobre si disparar o no. Cada neurona también debe regular su química, repararse a sí misma, mantener su membrana y recrear continuamente todas las demás condiciones físicas que le permiten activarse en primer lugar.

Todo este mantenimiento biológico está profundamente entrelazado con la señalización neuronal. Y el silicio no puede hacer nada de eso.

Eso podría no importa; La muda está profundamente entrelazada con el vuelo de las aves, pero los aviones sin plumas todavía despegan. Sin embargo, como no sabemos cómo las células cerebrales generan la experiencia subjetiva, no podemos estar seguros de que el metabolismo sea prescindible para esa tarea. Y si es indispensableentonces los LLM no sólo estarían desprovistos de conciencia hoy, sino para siempre.

El sufrimiento no humano está a tu alrededor

Todo lo cual quiere decir: no debemos estar seguros de que Claude alguna vez sentirá algo, ni de que no lo hará. La certeza de Chiang de que la sensibilidad requiere un cuerpo no está más justificada que la convicción de Hinton de que no es así. Simplemente no conocemos la conciencia lo suficiente como para decir:

El resultado práctico de esta ambigüedad es discutible. Se podría argumentar razonablemente que si existe incluso una pequeña posibilidad de que la IA pueda alcanzar la conciencia, deberíamos prepararnos para ese escenario o, en caso contrario, esforzarnos por evitarlo. Después de todo, un mundo en el que cada ventana de ChatGPT puede pensar y sentir podría ser un mundo de esclavitud digital casi infinita. Si cada una de las innumerables instancias de ChatGPT se vuelve capaz de sufrir, entonces podríamos vernos obligados moralmente a maximizar su bienestar, o al menos a dejar de aburrirlos hasta el punto de aburrirlos con nuestras asignaciones de codificación y quejas matrimoniales.

Por otro lado, la planificación del movimiento de liberación de la IA de la década de 2030 podría terminar siendo una enorme pérdida de tiempo. Es muy probable que se mantenga la antigua sabiduría convencional sobre este tema (los objetos no tienen experiencias).

Personalmente, creo que la perspectiva de una conciencia de la IA es lo suficientemente seria como para justificar algún estudio y reflexión, pero no más que una pequeña fracción de nuestra energía política y moral colectiva.

Si no queremos vivir en un mundo donde la humanidad atormenta a los seres conscientes en una escala incalculable, también necesitaremos cambiar el que ya existe. Tenemos muchas más razones para pensar que los cerdos son conscientes que ChatGPT. Sin embargo, Estados Unidos tortura y mata a más de 100 millones de ellos cada año.

Por supuesto, uno puede preocuparse por esto (y por muchas otras injusticias actuales) y al mismo tiempo preocuparse por el bienestar de la IA. Dado que la mera posibilidad La conciencia de las máquinas es muy incierta; sin embargo, mitigar el sufrimiento de los organismos conscientes parece mucho más apremiante.

Aunque quizá quieras seguir diciéndole “gracias” a Claude, por si acaso.