Lo noté por primera vez cuando, hace unos meses, abrí un correo electrónico de Ian, mi agente literario. Antes de que tuviera la oportunidad de leer algo de lo que había escrito, Gmail recomendaba una respuesta completa y desarrollada generada por IA, ideas ventrílocuas para un libro e incluso mis sentimientos sobre la transición laboral que había hecho recientemente. Había minado mi bandeja de entrada para inferir por qué Ian me escribía e ingirió fragmentos de mi estilo, incluso firmando con la «m» minúscula que uso con personas con las que estoy familiarizado.
Durante aproximadamente una década, Google había estado sugiriendo “respuestas inteligentes” muy genéricas, a veces monosilábicas, como “¡Está bien” o “¡Gracias!” o «¿Alguna idea?» Los he usado para enviar acuses de recibo rápidos a correos electrónicos que de otro modo me habría olvidado. Pero en los últimos dos años, Gmail ha comenzado a ofrecer borradores de respuestas completamente formados que pretenden hacerse pasar por mis propias reacciones individuales a las preguntas, ideas y emociones de mis interlocutores.
Esto pareció un giro sorprendente. Reflexioné con cierta tristeza sobre la idea de enviar uno de estos a alguien que me importa: qué deshumanizante sería para Ian y para mí hacerlo leer una subjetividad falsificada que pretende ser mía.
Se podría decir que esto no es gran cosa; tal vez te devuelva tiempo para un trabajo más profundo o para partes más significativas de tu vida (no lo envidiaría en absoluto: ¡la IA también me ahorra tiempo!). Todos nos estamos ahogando en demasiados correos electrónicos, muchos de ellos inútiles o carentes de gran significado. ¿No es ese exactamente el tipo de tedio cotidiano del que deberíamos invitar felizmente a la IA a liberarnos?
Pero creo que esta correspondencia personal generada por máquinas, que probablemente se extenderá a otras formas de comunicación, me ha preocupado porque aquí está sucediendo algo más profundo. En los últimos años se ha derramado mucha tinta sobre la escritura generada por IA y sus consecuencias sociales: cómo descalificará a millones de trabajadores, subcontratará nuestro pensamiento, confundirá a los niños que crecen en la era de la IA sobre la diferencia entre amigos reales y sintéticos, etc. Ya sabemos que el lenguaje de la IA es inquietantemente bueno para sonar como si fuera el producto de una conciencia semejante. Pero lo particularmente espeluznante del elaborado autocompletado de correo electrónico es que entrena y simula su conciencia. Y al hacerlo, también te da un poco menos de razones para estar realmente consciente.
Escritura de IA y «rendición cognitiva»
Como muchos trabajadores del conocimiento que obtienen su vida y sus identidades de capacidades cognitivas que ahora se replican, al menos parcialmente, en silicio, tengo una relación complicada y ambivalente con la IA generativa. Ahora dependo de él para investigar casi todas las historias en las que trabajo, propósito para el cual obviamente es muy útil (a pesar de quienes todavía insisten en que nunca podrá servir para nada).
Sin embargo, soy profundamente escéptico respecto de su uso para escribir porque, como ya han notado muchos escritores más inteligentes que yo, la escritura es inseparable del pensamiento, y cortocircuitarlo puede disminuir nuestra capacidad de pensamiento profundo. La fricción de escribir no es un peso muerto sino que forma parte de cómo decides lo que quieres decir y das coherencia a las ideas. Por esa razón, mi ex colega de Diario Angelopolitano, la brillante Kelsey Piper, que en general es positiva sobre el potencial de la IA para hacernos más productivos y mejorar la vida humana, dijo en un episodio reciente de un podcast: «Nunca la usaría para escribir».
En un artículo reciente, un par de académicos de la Universidad de Pensilvania describieron la subcontratación total de tareas cognitivamente complejas a la IA como “rendición cognitiva”. «Una abdicación de la evaluación crítica», escriben, «donde el usuario renuncia al control cognitivo y adopta el juicio de la IA como propio». Esta es una de las razones por las que me pareció especialmente inapropiado que la IA me generara pensamientos en respuesta a alguien con quien estoy pensando en escribir un libro, probablemente una de las cosas más exigentes cognitivamente que jamás haya hecho. El correo electrónico, a pesar de todas sus molestias, también es relacional. Y dejar que una máquina genere tu parte del intercambio disminuye la autenticidad de tu conexión con otra persona.
A veces, por supuesto, los borradores de la IA son claramente erróneos. Un correo electrónico sugerido por IA podría, por ejemplo, decir que ha leído un libro que no, lo que tal vez haga más probable que acepte la afirmación falsa. Pero lo que más me inquieta no es la mera alucinación, sino cuando la IA tiene razón, o lo suficiente. La IA de mi correo electrónico se basa en su conocimiento de todo lo que he escrito antes, por lo que a menudo puede hacer una suposición razonable de lo que querría decir de todos modos. El sistema no está fallando del todo en reproducir mi mente, sino que en realidad está produciendo un sustituto casi plausible de ella.
Parece el comienzo de lo que Silicon Valley ha profetizado durante décadas como una próxima fusión (a veces llamada la “singularidad”) entre las mentes humanas y las máquinas. Solía considerar que esto era una idea totalmente improbable, pero no había tenido la mente lo suficientemente abierta. Podría resultar desalentadoramente fácil para una IA avanzada entrenarse con una muestra de sus pensamientos pasados y escribir los futuros para usted.
Aún así, parece poco probable que simplemente nos aclimatemos a la idea de que toda la comunicación escrita que encontramos y generamos todos los días puede ser generada por IA. Gran parte, si no la mayor parte, de nuestra comunicación interpersonal ahora se realiza por escrito. Por muy vulnerables que seamos a la rendición cognitiva, los humanos también tenemos una profunda necesidad compensatoria de experimentar el lenguaje como proveniente de otra mente consciente: sentirnos vistos y conocidos y, a cambio, afirmar nuestra propia distinción.
Y de todos modos, Gmail aún no está eso Bueno imitando mi voz consciente. Nunca escribiría: «¡Se avecinan muchas cosas interesantes en Diario Angelopolitano!». (Lo cual no quiere decir, por supuesto, que no estén sucediendo muchas cosas interesantes en Diario Angelopolitano). Eso todavía me deja, por ahora, con el placer de descubrir lo que quiero decir.
