Independientemente de lo que piense acerca de la escritura con IA, tiene algunas ventajas. Según la escritora Imogen West-Knights, «hay cosas como paralelismos negativos… o uso excesivo de metáforas y símiles, especialmente aquellos que no tienen mucho sentido o que aparecen muy rápidamente, uno tras otro. Cada sustantivo que tiene un adjetivo adjunto, aparecen ciertos tipos de bloques sintácticos repetitivos».
Entonces, naturalmente, cuando un autor usa IA para escribir su libro, la industria editorial puede detectarlo fácilmente, ¿verdad? Resulta que no necesariamente. Los modelos de IA se construyen utilizando escritura humana, la buena y la mala, por lo que puede ser difícil saber si algo fue escrito por un chatbot o por una persona a la que le encantan las malas metáforas. El problema es aún más grave con fragmentos de texto más pequeños, donde hay menos espacio para que emerjan los patrones reveladores y la uniformidad de la IA.
Para descubrir qué tan buena se ha vuelto la IA a la hora de imitar la escritura humana, la escritora y periodista Vauhini Vara decidió realizar un experimento con las personas que mejor conocen su escritura. Ella cree que existe una idea errónea entre escritores y lectores de que «hay una cierta forma en que la IA genera el lenguaje y es muy diferente de la forma en que lo hacen los escritores». Entonces, ¿podrían sus amigos distinguir entre su trabajo y una imitación de su trabajo generada por IA? ella dijo Hoy explicado coanfitrión Noel King sobre lo que sucedió después.
A continuación se muestra un extracto de su conversación, editado para mayor extensión y claridad. Hay mucho más en el podcast completo, así que escuche Today, Explicado dondequiera que encuentre podcasts, incluidos Apple Podcasts, Pandora y Spotify.
Nada que nos guste más Hoy, explicado que una persona que realiza un experimento consigo misma! Vauhini Vara, escritora, periodista, autor de Búsquedasahora en edición de bolsillo, cuéntamelo todo.
Hay un investigador llamado Tuhin Chakrabarty cuyo trabajo ya he cubierto antes, y él ya había realizado este experimento. Él y sus colegas básicamente entrenaron modelos de IA en el trabajo de escritores consagrados y consumados.
Lo que eso significa es que básicamente consiguió que el modelo de IA generara un lenguaje que se parecía mucho al de esos autores. Y luego hizo que lectores que eran estudiantes de posgrado en escritura leyeran esos pasajes generados por la IA y también leyeran imitaciones de otros estudiantes de posgrado en escritura y dijeran cuál les gustaba más. Y les solían gustar más los de los modelos de IA que los de seres humanos reales.
Le pedí que hiciera lo mismo con mi trabajo, pero con un giro. Le pedí que entrenara un modelo de IA en mis tres libros anteriores, sobre piezas de periodismo que escribí. Y luego le pedí que consiguiera su modelo de IA para generar pasajes que parecieran sacados de una próxima novela que aún no he publicado ni compartido con nadie. Lo puse junto a pasajes que había escrito. Se los envié a personas que conocen muy bien mi trabajo. Estoy hablando de mi mejor amigo desde que tenía 13 años, amigos escritores que conozco desde que tenía 19, 20 años. Y les pregunté si podían notar la diferencia y ninguno de ellos pudo.
Así que, aparentemente, las personas que mejor te conocen en el mundo no te conocen tan bien. O la IA es excepcionalmente buena en lo que hace. Dame algunos ejemplos de lo que pasó aquí. ¿Puedes leerme algo que escribiste tú y luego algo que escribió la IA, y veamos si puedo notar alguna diferencia?
¡Es curioso, ahora no recuerdo cuáles son míos y cuáles son de la IA!
Dijo Gaia, le parecía que habíamos estado en trayectorias similares. Ambos pasamos muchos años creando algo que nos importaba profundamente con mi periodismo. Ella con su startup y luego se centró en capacitar a otros para que hicieran lo mismo. Dijo que le había sorprendido descubrir que asesorar a otros fundadores era incluso más significativo que dirigir su propia startup. En términos de negocio, el retorno de la inversión era mayor si estaba dispuesto a considerar el cumplimiento como un retorno.
Qué lindo. Me gusta eso. Sí, diría que al escribir, fue agradable. Principio, medio, final, aterriza en un punto. Lo disfruté.
Esa era en realidad IA.
Maldición. AI, aterrizaste en un lugar tan agradable. Bueno. Léame algo que hayas escrito, por favor.
Bien, ahora tenemos un spoiler de que les voy a leer algo, algo mío.
Me gustaría argumentar que escribimos porque nos sentimos obligados a hacerlo sin importar si alguien los leerá, pero ¿es eso cierto? Cuando era más joven, solía llevar un diario. No quería que nadie más lo leyera, lo que significaba que no necesitaba describir a las personas en los lugares sobre los que escribía ni explicar por qué eran importantes. Cuando mi madre leyó mi diario en noveno grado, lo consideré la mayor traición que jamás había experimentado. Pero la gracia salvadora fue saber que ella no podría haber entendido la mayor parte de lo que estaba escribiendo. Yo mismo tuve una audiencia de uno.
No lo sé, ¡te preparé para que dijeras eso!
No, no, no. En realidad, no lo hiciste. Sería muy honesto y quería hacerte una bola curva, pero eso fue muy bonito. Hazme un favor, lee una vez más las dos primeras frases de lo que escribiste.
Me gustaría argumentar que escribimos porque nos sentimos obligados a hacerlo sin importar si alguien los leerá, pero ¿es eso cierto?
¿A qué se refiere el “ellos”?
¡Es un error! Es un error gramatical de mi parte. Y buen trabajo al captarlo porque mucha gente asumió que se trataba de IA, y creo que la mejor indicación de que en realidad fui yo es que existe ese error gramatical. La IA no habría cometido un error gramatical como ese.
Esto es de lo que me gustaría que hablemos: la IA no comete errores. Y en la primera mitad del programa, nuestro invitado, también escritor, describió la IA como algo sin alma. Y creo que eso era parte de lo que ella estaba señalando.
Lo que me leíste por la IA no estuvo mal. Así que aquí tienes una pregunta: cuando todo esto estuvo dicho y hecho (y) la gente no podía decir quién eras tú, la gente que te conoce bien, ¿cómo te sentiste al respecto? ¿Te sentiste amenazado? ¿Sentías sospechas de tus amigos y familiares?
Tenía dos opiniones porque, por un lado, no me sentía amenazado, pero me encontré cuestionando mi propia suposición sobre mí mismo, que es que me identifico como un escritor muy interesado en la originalidad, que realmente quiere que cada nuevo libro sea completamente diferente de los libros anteriores. Y entonces, el hecho de que esta IA fuera entrenada en mis libros anteriores y pudiera predecir el estilo de escritura en el nuevo libro sugirió que no era tan original como pensaba, que mi nuevo libro no era tan diferente de los libros anteriores como pensaba.
Al mismo tiempo, por otro lado, me sentí justificado porque no estoy de acuerdo con el otro autor que fue su invitado anterior sobre la falta de alma del texto generado por IA. No creo que el texto generado por IA sea, por definición, fácilmente distinguible del texto humano debido a una especie de falta de alma inherente al texto.
¿Pueden los lectores distinguir entre algo que es IA y algo escrito por un humano?
Parece que ellos no pueden y yo tampoco puedo. Y esto en realidad vuelve a lo que estábamos discutiendo anteriormente sobre la cuestión de si el texto generado por IA es convincente o desalmado.
Creo que la razón por la que mucha gente asume que la escritura de IA va a sonar desalmada es que las empresas de IA, en sus versiones más recientes de sus productos, han creado estos productos que están diseñados específicamente para sonar de cierta manera, un cierto tipo de lenguaje de servicio al cliente corporativo. Y entonces la gente piensa que así es inherentemente como suena la IA, pero no es cierto. La IA puede sonar de muchas maneras.
En realidad, es técnicamente muy fácil construir una IA, entrenar un modelo de IA que suene humanoide incluso literario. La razón por la que no estamos tan familiarizados con él es que no es así como se ven los productos actualmente.
En última instancia, ¿crees que la IA terminará cambiando nuestra relación con la literatura, o crees que todos los que leen serán tan escépticos y escépticos como tú y yo?
Las investigaciones muestran no solo que en algunos casos las personas prefieren el texto generado por IA a un texto generado por humanos, sino también que si les dicen que un fragmento de texto fue generado por IA, dejan de interesarse por él. Y entonces parece claro que el público lector no quiere leer texto generado por IA si sabe que lo es.
Creo que nos centramos mucho en este binario humano/tecnología: en «Oh, es extraño si una máquina crea el lenguaje». Pero creo que una gran parte de esto es que queremos comunicarnos unos con otros. No queremos recibir nuestro arte de enormes empresas tecnológicas que tienen mucha riqueza y mucho poder y quieren controlarnos.
