La controversia sobre la IA de Hank Green muestra por qué todo el mundo necesita una política personal de IA

Todo el mundo está equivocado acerca de Hank Green.

En caso de que te hayas perdido la controversia: la veterana estrella de YouTube, escritor y empresario de comunicaciones científicas fue recientemente “cancelado” después de que reconoció que utilizaba IA para investigaciones.

«He dependido demasiado de la IA como ayuda para la investigación», escribió en un comunicado en Reddit. «Puede ser muy útil para esta tarea, ya que me da acceso muy rápido a muchos artículos que no sabía que existían, pero creo que ha ido en detrimento de mi trabajo porque no me ha dado la libertad de encontrar mis propios caminos hacia un tema y sus alrededores». Aunque Green escribió que las palabras en sus videos son suyas, su dependencia de la IA como ayuda para la investigación aún le dio al trabajo terminado una inefable “sensación de IA”. Y su relación con la IA, escribió, se había vuelto “no saludable para mí ni buena para el mundo”.

Algunos de los seguidores de Green, conocidos por el alegre y tonto apodo de «Nerdfighters», se volvieron contra él por atreverse a utilizar la IA en cualquier capacidad. Con la misma rapidez, esa reacción produjo su propia reacción, horrorizada no por el uso de la IA por parte de Green, sino por su postración ante una turba anti-IA: “autocancelación”, como dicen algunos, por un uso legítimo de la tecnología.

Creo que ambos bandos están equivocados y han reducido una cuestión compleja a un conjunto de extremos binarios. Y me sorprendió que, a pesar del intenso debate social sobre los impactos de la IA en nuestra capacidad para pensar, escribir y producir ideas originales, la debacle no haya provocado una conversación más reflexiva sobre los límites de la IA en el trabajo creativo.

Sentí esto porque me reconocí en la declaración de Green: la sensación de que incluso usar la IA para la investigación puede comenzar a apoderarse de tu proceso creativo, que puede volverse difícil saber dónde termina tu propio cerebro y dónde comienza la IA, y que la tecnología puede simplemente empujarte a trabajar demasiado rápido. No uso la IA para generar escritura y no lo haría, pero su uso no necesita llegar a ese nivel para plantear preguntas profundas sobre cuánto de nuestro trabajo debemos automatizar y qué sucede con nuestra capacidad de pensar por nosotros mismos cuando lo hacemos.

En un vídeo de seguimiento publicado a finales de la semana pasada, Green expuso una nueva política de IA para su trabajo. Él escribió:

1. Un LLM no escribirá, editará ni delineará ninguna parte de ningún guión.

2. La tesis de un vídeo siempre tendrá su origen en un humano.

3. La IA no generará ninguna imagen ni música en un vídeo. Si se incluye algo accidentalmente, se harán todos los esfuerzos posibles para eliminarlo.

4. No se confía en los resultados del LLM como fuente.

Todas estas son buenas ideas para cualquier creador que intente evitar la introducción de la IA en su oficio. Pero aún así, plantean una pregunta más importante y más difícil de responder: la propia estructura de la IA generativa hace que sea difícil utilizarla sin descargar el pensamiento y el juicio humanos, lo que puede conducir a un fenómeno ampliamente discutido conocido como «rendición cognitiva». Y nos empuja hacia usos (como sintetizar investigaciones, generar ideas y ángulos) que cortocircuitan el pensamiento y el descubrimiento originales que deberíamos hacer nosotros mismos. Entonces, ¿para qué podemos utilizar la IA de forma responsable? ¿Cómo podemos establecer barreras que nos permitan aprovechar su utilidad sin derretirnos el cerebro en el proceso?

Los usos más tentadores de la IA son precisamente aquellos que es mejor evitar

¿Recuerdas a finales de 2022, cuando apareció ChatGPT por primera vez y todos se burlaron de sus malas habilidades de investigación y su propensión a alucinar en cada dos oraciones? Estoy tan nostálgico por esos días.

Es posible que muchas personas que se abstienen de la IA no lo sepan, pero desde entonces, y especialmente en los últimos meses, los grandes modelos de lenguaje se han vuelto mucho más inteligentes (especialmente las versiones premium pagas). Se ha vuelto inquietantemente bueno para resumir debates y áreas de investigación complejas y específicas, y para producir ideas, a menudo sin que se las pidan, para realizar más investigaciones o escribir sobre el mismo tema.

Cada vez que tengo una pregunta de investigación en estos días (que ocurre prácticamente cada vez que estoy trabajando en una historia), es más probable que inicie un LLM que un motor de búsqueda tradicional. Si pregunto: “¿Por qué todavía se talan árboles viejos en América del Norte?” produce una síntesis de investigaciones, noticias, opiniones y todo lo que su formación absorbió sobre el tema: “Estamos utilizando un activo ecológico esencialmente no renovable para suavizar una transición temporal hacia un recurso maderero renovable”, dice. Investigue más a fondo y le sugerirá argumentos: “En lugar de que los conservacionistas tengan que demostrar que cada bosque antiguo merece protección, las empresas madereras deberían demostrar que la tala de un rodal centenario satisface una necesidad que no puede satisfacerse razonablemente con madera de segundo crecimiento o diseñada”.

Estas no son ideas particularmente inteligentes o creativas; están perfectamente a nivel de reemplazo, lo que las convierte en sustitutos plausibles de los pensamientos de la mayoría de las personas. La IA puede proporcionar respuestas sencillas a todas las preguntas imaginables y seguimiento que pueda tener mientras trabaja en un proyecto, aliviando la necesidad de involucrarse mentalmente con la forma de un problema. Compare esto con buscar en Google en los días previos a la visión general de la IA, que, aunque ciertamente no estaba exento de problemas, al menos solía enviarlo a una lista de fuentes que luego tenía que leer y entender por su cuenta.

La mayoría de los que hemos trabajado con un LLM sabemos lo que se siente. Facilitan a los usuarios patinar sobre la superficie de un tema y fingir comprensión o percepción, y en el proceso pueden involucrarse en decisiones interpretativas que deberían ser nuestras. En mi experiencia, los modelos de IA generativa diseñados de forma aún más estricta no escapan a estos problemas. Gemini Notebook de Google (anteriormente NotebookLM), por ejemplo, le permite cargar todas sus fuentes para un proyecto (libros, informes, artículos, grabaciones de audio y video) y hacerle preguntas basadas en lo que contienen, en lugar de buscar en todo Internet. Es menos propenso a generar un fracaso total que las IA de propósito general. Lo uso para la mayoría de las historias que escribo; es una herramienta increíblemente útil que ahorra tiempo. Pero también me permite relacionarme con las fuentes de una manera superficial y sin contexto: la IA puede sacar a la luz precisamente la parte que necesito en lugar de obligarme a formar conexiones más profundas que surgen al leer un texto en su totalidad.

El mejor trabajo creativo (que incluye no sólo el arte y la escritura, sino también los avances tecnológicos y médicos) probablemente proviene de tener una amplia gama de asociaciones de antecedentes y de poder combinarlas de maneras inesperadas. El matemático francés Henri Poincaré expresó esto maravillosamente en su ensayo “La creación matemática”, donde escribió que es el esfuerzo consciente, tedioso y sostenido el que, en última instancia, conduce a destellos de percepción.

Creo que esto es lo que Green quiso decir cuando escribió que la IA puede impedirle encontrar sus “propios caminos hacia un tema y sus alrededores”. Los LLM están diseñados para hacer que el trabajo cognitivo no requiera esfuerzo, pero eso resulta tan repugnante porque para que valga la pena, tiene que suponer un esfuerzo. Este argumento ya se ha planteado sobre la escritura generada por IA: dejar que un LLM escriba por usted es contraproducente, porque escribir es pensar. Pero también puede ser cierto, como ha demostrado el ejemplo de Green, en el caso del uso de la IA para la investigación que alimenta el proceso creativo.

Si utiliza IA, considere crear una política de IA personal

Quizás todas estas preocupaciones sean exageradas: los humanos no son menos propensos que la IA al pensamiento perezoso y lógicamente incorrecto. Eso es absolutamente cierto, pero el objetivo de pensar por nuestra cuenta no es que seamos inherentemente buenos en eso. Por el contrario, sólo podemos mejorar nuestro razonamiento practicándolo.

No quiero sugerir que el uso de la IA para la investigación sea ilegítimo. Es una herramienta demasiado útil para sacarla de la mesa por completo, y no podemos volver a poner a ese genio en la botella. Puede ser extremadamente útil para identificar las mejores fuentes que de otro modo no encontraría, pero esas mismas habilidades pueden convertirlo en un arma de doble filo, impidiendo un proceso de exploración más lento y abierto. Pero la mayor fortaleza de la IA (su infinita variedad y flexibilidad) puede usarse para alejarla de los usos más tentadores, especialmente aquellos que en última instancia nos dañan.

Hay cosas muy obvias que cualquier usuario de LLM debería hacer con ese fin, como nunca asumir que una afirmación de una IA es precisa y leer siempre fuentes originales. Más allá de eso, las barreras de seguridad necesarias dependen de nuestros propios patrones de uso, pero, sobre todo, creo que es útil evitar entrenarnos para esperar respuestas inmediatas a preguntas difíciles.

Uno de mis colegas se abstiene por completo de utilizarlo para generar ideas, sino que lo utiliza para proporcionar fuentes para preguntas fácticas limitadas y para ayudar en el proceso de verificación de hechos (énfasis en “ayuda”) después de escribir una historia. Para generalizar a partir de esto, creo que es una buena idea resistirse a que la IA haga mucho trabajo sintético sobre un tema antes de que usted mismo haya redactado su proyecto. Cuanto menos hagas eso, menos verás, parafraseando el video reciente de Green, cada problema como un “problema en forma de LLM” y menos te sentirás como si estuvieras en la singularidad donde tu cerebro se está fusionando con la IA.

Una forma en la que me gusta utilizar la IA es como diccionario de sinónimos mejorado, para encontrar la palabra o frase corta precisa para expresar lo que quiero decir en una oración. Cuando se hace correctamente, no lo encuentro más dañino que usar un diccionario de sinónimos tradicional; Creo que puede enriquecer mi léxico de trabajo. Pero debe usarse con cuidado y cirugía, estableciendo un límite claro en la longitud de una frase utilizada por IA (como dos o tres palabras como máximo) y evitando compartir gran parte de su escritura con la herramienta, para que no comience a recomendar reescrituras extensas.

Al interrogar el contenido de fuentes específicas o de un conjunto de trabajos, o poner a prueba sus propios argumentos, la IA sería mejor para nuestro desarrollo intelectual si adoptara un enfoque socrático: empujarlo a descubrir una respuesta en lugar de simplemente darle una. Podría decir, por ejemplo, «puede haber algunas advertencias relevantes para su idea en las páginas 42 y 43 de la fuente». Se puede indicar a los LLM que se comporten de esta manera en sus instrucciones personalizadas. También ayuda simplemente tocar el césped: encuentre las fuentes que necesita y, en lugar de entrevistar a la IA sobre lo que dice, simplemente cierre el chatbot y léalas de principio a fin.

Configurar la IA de una manera que sea más saludable para nuestros cerebros también la haría menos adictiva: cuando te ves atrapado en un largo intercambio con una IA, eso suele ser una señal de que algo salió mal. Evidentemente, a Green le costó establecer ese límite, haciendo referencia al «nivel poco saludable de dopamina que he estado obteniendo al interactuar con LLM». Los laboratorios de IA tienen incentivos comerciales muy fuertes para querer que seamos adictos a sus productos y, a menos que ellos mismos construyan restricciones diferentes en los modelos, es difícil esperar que la persona promedio, que tiene mucha menos autonomía sobre los términos de su trabajo que Green, cambie estas condiciones por sí misma.

Aunque los investigadores de algunos laboratorios de IA están pensando en los riesgos sociales de la atrofia cognitiva, otra cosa es esperar que estas empresas, que compiten en facilidad de uso, introduzcan fricciones en sus modelos. No deberíamos contar con que eso suceda pronto, pero estamos lejos de ser impotentes ante los impactos de la IA. Podemos establecer nuestras propias políticas personales de uso de la IA y podemos hacer cumplir normas sociales contra la descomposición cerebral inducida por la IA. Como mínimo: no me envíes tus escritos generados por IA. ¡Es de mala educación!