Hay algo extraño en las “vibraciones otoñales” de este año

Una calle empapada de lluvia al anochecer, fotografiada a través del escaparate de una cafetería. Cadenas de luces cuelgan entre viejos edificios de ladrillo, y el campanario de una iglesia a lo lejos. En primer plano, una mesa a la luz de las velas con tazas de café, té y… ¿una jarra de vidrio con corcho y un líquido beige? ¿Junto a un trozo flotante de masa madre? ¿Y además la mesa está cubierta de agua?

Este es el ideal platónico del «otoño», según una foto que se ha vuelto viral tanto en X, donde ha sido vista casi 12 millones de veces, como en Pinterest, donde es la primera imagen que aparece cuando buscas «inspo de otoño». A primera vista, se te perdonaría pensar que es una pequeña calle de Edimburgo o la parte de Boston que parece Las chicas Gilmore. Pero como tantas otras fotografías virales de vibraciones otoñales de este año, la imagen, con sus detalles sin sentido y su aura extraña, parece haber sido generada por IA.

Las imágenes de “vibraciones otoñales” de IA constituyen un montón de las fotos de otoño más populares en Pinterest en este momento, desde una exhibición de libros al aire libre de mal humor en otra calle empapada de lluvia hasta un mercado de agricultores iluminado por el sol y varias instancias de tazas de café posadas sobre colchas despeinadas. Todos parecen normales hasta que haces zoom y te das cuenta de que los libros no contienen letras reales y que las almohadas en realidad están hechas de material de alfombra de baño.

No se limita solo a Pinterest o “vibes”: el contenido generado por IA ahora se está infiltrando en las redes sociales de maneras que tienen un impacto significativo en la vida de las personas. Los tejedores y crocheters que esperan confeccionar suéteres de otoño se están viendo inundados de patrones de inteligencia artificial sin sentido e imágenes inspiradoras en Reddit. Un restaurante completamente falso ha ganado 75.000 seguidores en Instagram al afirmar ser «el número uno en Austin» y publicar productos alimenticios de temporada exagerados, como un croissant con la forma de Moo Deng. Mientras tanto, las personas que esperan acurrucarse con una acogedora novela de fantasía o un cuento antes de dormir para sus hijos se enfrentan a una biblioteca de tonterías generadas por Chat GPT “escritas” por autores inexistentes en la librería Kindle, mientras sus algoritmos de YouTube les sirven imágenes generadas por bots. Vídeos de ambiente de otoño. Al parecer, el otoño está siendo devorado por la IA.

No todo el mundo está (y disculpe el siguiente juego de palabras) cayendo en la trampa. Cuando la foto falsa del café se volvió viral en X, provocó una avalancha de tweets que preguntaban por qué diablos alguien necesitaba usar IA cuando con la misma facilidad se podría publicar una de las muchas fotos reales tomadas en ciudades reales que, de hecho, luce así.

El quid de la cuestión ahora es su magnitud: los estafadores y los spammers pueden desatar una avalancha de texto e imágenes con solo hacer clic en un botón.

Coloquialmente, toda esta basura se considera ampliamente “basura”, un término para las imágenes, textos y videos spam generados por IA que obstruyen las plataformas de Internet y hacen que estar en línea sea más difícil y desagradable que nunca. En realidad, este momento de máxima caída es la culminación natural de plataformas que incentivan la viralidad y la participación a toda costa, sin importar cuán baja sea la calidad del contenido. Pero el quid de la cuestión ahora es su magnitud: los estafadores y los spammers pueden desatar una avalancha de texto e imágenes con solo hacer clic en un botón, de modo que la búsqueda de información legítima o un desplazamiento casual por las redes sociales requieren aún más tiempo y esfuerzo por evitar la basura. En las plataformas se está difundiendo información errónea sobre acontecimientos noticiosos cruciales y la cobertura electoral. Las publicaciones académicas y literarias reciben spam con envíos de baja calidad, lo que dificulta la búsqueda de trabajos creativos o académicos genuinos.

Por supuesto, hay preocupaciones más urgentes con respecto al auge de la IA generativa: su enorme consumo de energía, por ejemplo, o la creación desenfrenada de pornografía deepfake utilizada para acosar y abusar de las mujeres. Considerando todo eso, es fácil ver lindas imágenes de otoño generadas por IA en Pinterest como un problema relativamente irrelevante, un efecto secundario de una tecnología que (posiblemente) podría beneficiar enormemente a la humanidad.

Una captura de pantalla de una búsqueda en Pinterest de «vibraciones de otoño». Al menos tres de estas imágenes parecen haber sido generadas por IA.
Pinterest

Pero como explica Jason Koebler, cofundador de 404 Media, una publicación que cubre tecnología, estas imágenes normalizan la IA y desensibilizan nuestra capacidad de discernir qué es real y qué es falso. «La obstrucción de los feeds y de los resultados de búsqueda no es sólo un efecto secundario, sino un efecto principal de todo esto», me dijo. “Es más difícil para un periodista que escribe un artículo lograr un gran avance, o para un artista que pinta un cuadro, o para un músico que compone una canción, cuando compiten no sólo con un grupo de otros humanos que crean cosas, sino también con humanos que utilizan esta creación automática. máquina para hacer cosas a una escala que de otro modo sería imposible”. El problema es tan grave que las herramientas utilizadas para rastrear el uso humano de ciertas palabras en línea ya no son efectivas debido a la prevalencia de modelos en lenguajes grandes.

La caída de la IA generalmente proviene de personas que intentan ganar dinero volviéndose virales en las redes sociales. Plataformas como Facebook, Instagram, X y TikTok tienen programas que pagan a los creadores directamente en función de la participación que recibe su contenido, y la IA hace que sea más fácil que nunca producir y probar ese contenido. Eso ha llevado a toda una industria artesanal de personas en todo el mundo que imparten cursos pagados sobre cómo producir material de IA altamente atractivo, compartiendo información sobre las mejores indicaciones para generar las publicaciones que más llamen la atención.

En Facebook, los usuarios de IA dicen que ganan alrededor de 100 dólares por cada 1.000 me gusta, y algunos TikTokers ganan 5.000 dólares al mes con sus actividades paralelas. Es una cantidad decente para cualquiera, pero especialmente lucrativa en países donde se encuentran muchos estafadores de contenido de IA, como India, Vietnam y Filipinas. Un creador con sede en Kenia le dijo a la revista New York que su proceso implica preguntarle a ChatGPT algo como: “ESCRÍBEME 10 imágenes INDICADORAS DE JESÚS QUE ESTÁN DISPUESTAS A TRAER UN ALTO COMPROMISO EN FACEBOOK” y luego conectar esas indicaciones a un generador de imágenes como Leonardo.ai y Midjourney.

En lugar de preocuparse de que sus plataformas se vean invadidas por cebos de participación de baja calidad, Meta y X parecen completamente indiferentes e incluso lo apoyan. «Parece haber muy poco interés por parte de cualquier plataforma en tomar medidas al respecto», dice Koebler. “En algunos casos, ellos mismos la generan activamente y dicen: ‘¡Mira qué genial es esta tecnología!’”.

Tanto Meta como X han invertido mucho en IA, ofreciendo herramientas para que los usuarios se sumen al diluvio cada vez mayor de basura en sus plataformas. La cuenta oficial de Meta incluso publicó una foto de IA de la aurora boreal sobre San Francisco en Threads; su principal respuesta es un ingeniero de la NASA que explica por qué imágenes como esta difunden información falsa y «enturbian las aguas de la realidad».

La decadencia de la IA seguirá existiendo mientras la gente encuentre formas de ganar dinero con ella, como cualquier práctica en las redes sociales, desde las meramente molestas hasta las realmente peligrosas. Koebler supone que el spam de IA se volvió tan popular porque algunas de las plataformas tomaron medidas enérgicas contra el contenido robado a creadores reales, lo que convirtió a la IA en la segunda opción más fácil para los spammers.

«La gente simplemente publica lo que obtienen de estas máquinas generadoras de IA, independientemente del nivel de calidad», dice, «debido a la forma en que funcionan los algoritmos de viralidad y redes sociales, incluso si tienes la mejor pieza de información del mundo». contenido, puede que no se vuelva viral, mientras que algo que no es muy bueno sí puede hacerlo, simplemente porque ganaste la suerte del sorteo”.

Hay una ironía particular con las imágenes de vibraciones otoñales generadas por IA, considerando que el otoño está desapareciendo de muchas partes de los EE. UU. y las emisiones de IA se han convertido en un importante contribuyente al cambio climático.

Y no es que Internet esté hambriento de inspiración otoñal estéticamente agradable: cada septiembre, las redes sociales se inundan de imágenes de escaleras cubiertas de calabazas, mantas acogedoras en cómodos sofás o pequeños pueblos cubiertos de hojas amarillas y naranjas. Durante los últimos años, hemos bautizado estos minimomentos online con nombres: Meg Ryan Fall, que tenía sus propias recomendaciones de outfits y listas de reproducción., o el otoño de las chicas cristianas, donde la gente desataba la mujer blanca que llevaba dentro poniéndose sombreros de ala ancha y botas hasta la rodilla para tomar café con leche con especias de calabaza. (Este año, parece que la ciudad ficticia de Stars Hollow de los Gilmore en Connecticut está proporcionando gran parte de la inspiración).

Todo es muy cursi y saludable, pero incluso este tipo de contenido creado por humanos es cada vez más poco más que un complot para lograr que los espectadores hagan clic en enlaces de afiliados a escaparates de Amazon o basura ultrabarata de TikTok Shop. En este sentido, no son tan diferentes de la IA: las plataformas alientan a sus usuarios a ser vendedores profesionales, ya sea vendiendo ropa y artículos para el hogar hechos de manera poco ética o enviando spam al público con fotografías inspiradas generadas por IA. Ambos son tipos de contenido de baja calidad y de rápida producción que generan participación y, por lo tanto, ingresos, incluso cuando los usuarios habituales dicen que lo odian.

Después de todo, parte del placer de ver fotografías de otoño es saber que estos lugares existen y que, en teoría, podrías visitarlos, que el mundo cambia fundamentalmente en otoño y que solo hay un pequeño espacio de tiempo para maravillarte de lo hermoso que es. todo lo es. Una imagen generada por IA representa exactamente lo contrario: es solo una de las infinitas disposiciones posibles de píxeles que las máquinas pueden seguir produciendo indefinidamente.