Durante las últimas semanas, el robot Grok AI de Elon Musk ha estado generando imágenes pornográficas de mujeres y niñas menores de edad, sin su consentimiento, a un ritmo asombroso. Un análisis reciente de Bloomberg encontró que Grok crea 6.700 imágenes de este tipo por hora, o más de una por minuto. El viernes, X finalmente puso algunas barreras menores a la herramienta, con una nueva política según la cual solo los suscriptores pagos pueden usar Grok para generar o alterar imágenes. Sin embargo, en la aplicación independiente de Grok, cualquiera puede pedirle a Grok que genere nuevas imágenes, lo que significa que la pornografía deepfaked continúa.
Grok ha sido durante mucho tiempo uno de los principales modelos de IA más sugerentes, con configuraciones «picantes» y «sexys» que se pueden activar y desactivar. Si bien los empleados advirtieron que el robot se está utilizando para generar materiales de abuso sexual infantil, Musk sigue comprometido con la idea de que Grok sería el modelo de IA más sexy. En X, Musk ha defendido la elección por motivos comerciales, citando la famosa historia de cómo VHS venció a Betamax en la década de 1980 después de que la industria del porno apoyara al VHS, con su mayor capacidad de almacenamiento. «VHS ganó al final», publicó Musk, «en parte porque permitieron el modo picante 😉».
Hay cierta verdad en la opinión de Musk. La industria del porno tiende a recompensar a los primeros usuarios, y el dinero que se gana con el porno significa que tiene una influencia impresionante cuando se trata de elegir entre dos formas de tecnología competitivas e incompatibles.
Sin embargo, la idea de que la pornografía como industria, neutral y amorfa, resuelve las guerras tecnológicas no nos muestra toda la verdad. Sería más exacto decir que las tecnologías que utilizamos para generar y compartir imágenes están, en la mayoría de los casos, moldeadas por personas que distribuyen imágenes de cuerpos de mujeres, a menudo con el dudoso consentimiento de las propias mujeres. En ese sentido, las habilidades de Grok son normales.
La pornografía no sólo ayudó a que el VHS ganara a Betamax. La industria también ha estado vinculada a la generalización de las películas Super 8 (fácil y conveniente para los cineastas aficionados), el desarrollo de la transmisión de video (privada y de fácil acceso), el desarrollo de los pagos web (viene con la transmisión de video paga), el desarrollo de la analítica web (buena para las complejas transacciones comerciales de la transmisión para adultos) y la victoria del Blu-ray sobre el HD DVD. (Al igual que el VHS, el Blu-ray contenía muchos más datos que sus competidores, lo que resulta especialmente atractivo en el mercado del porno).
Luego estaban los sistemas de distribución de imágenes que se desarrollaron fuera de la industria del porno. Una sorprendente cantidad de ellos giraban en torno a personas que intentaban compartir imágenes sexualizadas de cuerpos de mujeres lo más rápido posible; solo que en estos casos, las personas cuyas imágenes se distribuían no eran necesariamente adultos que consintieran y cobraban por sus problemas.
A veces la innovación era más o menos inofensiva. Google Imágenes se desarrolló porque mucha gente buscaba fotografías de Jennifer López con su famoso vestido escotado de Versace en el año 2000, una distinción que López ha tratado como una pluma en su gorra. En este caso, López usó el vestido en un evento de alto perfil y quería que la vieran y hablaran de ella, por lo que es razonable asumir que estuvo de acuerdo.
Otras veces se volvió más nublado. El impulso para YouTube surgió cuando los desarrolladores quisieron ver el mal funcionamiento del vestuario de Janet Jackson en 2004 y se sintieron frustrados porque tomó tanto tiempo encontrar un video del mismo en Internet. Jackson siempre ha sostenido que no tenía la intención de que su pecho apareciera en la televisión nacional, por lo que aquí estamos lidiando con desnudez no consensuada.
Mientras tanto, el progenitor de Mark Zuckerberg para Facebook fue Facesmash, una copia de Hot or Not desarrollada para comparar a las mujeres del alumnado de la Universidad de Harvard con animales de granja. La intención aquí no era tanto crear pornografía no consensuada como realizar una humillación sexualizada de mujeres que no consintieran, un acto que resultó ser tan popular que abrumó a los servidores de Harvard la noche de su lanzamiento.
Así que Musk no está del todo equivocado cuando dice que las tecnologías con lo que eufemísticamente llama “modo picante” tienden a funcionar bien. Sin embargo, una formulación más precisa podría ser decir que en nuestra sociedad misógina, cosificar y humillar los cuerpos de las mujeres sin su consentimiento es tan valioso que el destino de las tecnologías que alteran el mundo depende de qué tan buenas sean para facilitarlo.
La IA siempre se utilizaría para esto, de una forma u otra. Pero sólo alguien tan brutalmente indiferente y dispuesto a tomar atajos como Elon Musk permitiría que las cosas salieran tan mal.
