Desde un presidente de Estados Unidos que se hace pasar por rey, líder de la iglesia o jugador de fútbol americano en publicaciones en línea, hasta un multimillonario de la tecnología que se describe a sí mismo como un gladiador romano en un meme publicado en la plataforma de redes sociales X a fines del año pasado. El mundo de las imágenes digitales a veces sale con cosas extrañas. Esto ahora es posible gracias a generadores de imágenes de IA como Midjourney y Dall-E. “Son un poco como máquinas de cumplimiento de deseos”, dice Roland Meyer, “puedes ingresar un mensaje e inmediatamente se convierte en una imagen”. Y así, por ejemplo, con solo tocar un botón, un estadounidense del siglo XXI puede convertirse en un gladiador de aspecto heroico con una armadura tradicional de la antigua Roma.
O al menos cómo la inteligencia artificial imagina que se vea un gladiador así. Pero “imaginar” no es la palabra correcta. Porque los generadores de imágenes de IA examinan y sintetizan enormes cantidades de datos. Mezclan épocas, estilos y estéticas completamente diferentes más o menos al azar, tomando clichés históricos para producir una nueva imagen de un pasado ficticio. “En el meme de Elon Musk, los elementos de la pintura histórica del siglo XIX se fusionan con la estética de las películas taquilleras, a través de la antigua Roma y los juegos de computadora para producir una imagen atemporal de hipermasculinidad”, dice Roland Meyer, quien incorpora aspectos de historia técnica y visual en sus análisis.
Un sentido de la realidad cada vez menor #
Roland Meyer es investigador de medios y cultura visual y ha sido profesor puente de DIZH para culturas y artes digitales desde el verano pasado. En este cargo, trabaja tanto en el Departamento de Estudios Cinematográficos de la UZH como en la Universidad de las Artes de Zúrich. En su investigación, Meyer ha explorado los desafíos del reconocimiento facial digital y su historia analógica. También ha analizado lo que significa si las fotos de nuestros rostros son evaluadas por algoritmos en línea y vinculadas a datos de perfiles para ser explotados o utilizados con fines de vigilancia.
En un artículo publicado en el sitio de la Universität Zürich, con la firma de Roger Nickl y traducido por Gemma Brown se nos explica que Meyer también está interesado en cómo está cambiando nuestra comprensión de las imágenes en el mundo en línea, a la luz de las plataformas digitales, las redes sociales y la IA generativa. De hecho, la forma en que percibimos las imágenes, cómo las interpretamos y qué esperamos de ellas en los medios digitales, está cambiando enormemente. En el mundo online, los límites entre los deseos, las emociones y la realidad están empezando a difuminarse.
Redes sociales #
Esto tiene que ver en parte con la forma en que funcionan las redes sociales. Hoy en día, los usuarios de las plataformas de redes sociales están acostumbrados a reaccionar inmediatamente al contenido de la imagen, por ejemplo, para darle me gusta o compartirlo. Por lo tanto, las imágenes publicadas en plataformas como Instagram están diseñadas para impulsar el compromiso al provocar estas reacciones. “Hoy en día, las imágenes en línea deben tener sobre todo un efecto emotivo y provocar interacciones espontáneas”, dice Roland Meyer. La atención ya no se centra tanto en si las fotos muestran una parte auténtica del mundo o no. “A menudo es más importante que sean emocionalmente reales para el espectador y que se alineen con su visión del mundo percibida”, señala el investigador.
No existen herramientas políticamente neutrales #
Muchas de las imágenes compartidas en línea de los devastadores incendios forestales en Los Ángeles a principios de año y de las catastróficas inundaciones en Florida el otoño pasado fueron generadas por IA. “Algunas personas que compartieron tales imágenes dijeron enfáticamente que no les importaba si eran fotos genuinas o no, ya que el desastre y el sufrimiento humano eran muy reales”, dice Meyer. Lo importante para ellos era que las fotos expresaran sus sentimientos y angustia, que querían transmitir a los demás, y no tanto que representaran con precisión eventos específicos.
Las imágenes generadas por IA que retratan a Elon Musk como romano o a Donald Trump como papa tampoco tienen poca relación con la realidad. El hecho de que existan estas imágenes manipuladas y que sean precisamente hombres como Musk y Trump quienes las compartan no es casualidad, según Meyer. “A la extrema derecha le encanta la IA generativa, y lo vemos en todo el mundo”, escribió en un artículo para el blog en línea Geschichte der Gegenwart. En Alemania, el partido de extrema derecha AfD también utiliza imágenes generadas por IA en su propaganda, que muestran a hombres jóvenes fornidos, mujeres rubias con coletas y familias idílicas ficticias, nostálgicas, en su mayoría rurales.
Meyer cree que la conexión entre tales clichés, los ideales generados por IA y las posiciones políticas de derecha se basa en una lógica interna. Él teoriza que las herramientas comerciales de IA para la generación de imágenes no son herramientas políticamente neutrales, pero que se prestan muy fácilmente a las visiones del mundo de derecha. “Muchas herramientas comerciales son buenas para reforzar los estereotipos, particularmente los basados en el género, y por ejemplo generar imágenes de hombres hipermasculinos y mujeres superfemeninas”, dice, “y usan patrones de imágenes del pasado para consolidarlos en mundos visuales artificiales completamente ahistóricos”. Esto da lugar, entre otras cosas, a mitos históricos que representan una visión idealizada del pasado que ni siquiera existió. “Es por eso que la generación de imágenes de IA es utilizada actualmente a gran escala por los partidos de derecha con fines propagandísticos”, dice Meyer.
Limpieza del archivo de imágenes #
Sin embargo, el investigador de cultura visual también ve otras razones por las que la derecha política está tan interesada en generar y compartir memes de IA: “Molestan a sus oponentes: las imágenes de IA tienen un gran potencial de provocación”. Por lo tanto, son parte de una guerra cultural que también gira en torno al uso de imágenes históricas e ideas de la historia. En los Estados Unidos, este conflicto también se está desarrollando en otro contexto. “A principios de este año, la administración estadounidense purgó los archivos de imágenes en línea para reflejar la agenda política y borró el contenido relacionado con la diversidad”, dice Meyer. Esto es parte de la lucha de la administración Trump contra la diversidad, la equidad y la inclusión (DEI).
In March, it was announced that the Pentagon had flagged 26,000 photos for deletion on the websites of the US military, as Meyer noted in a guest article for the German newspaper Frankfurter Allgemeine Sonntagszeitung. The images to be erased include photos of people who don’t fit the ideal of a male, white, heterosexual soldier. Photos of black military personnel in the Second World War have therefore been deleted. But photos from the 21st century have also disappeared from the internet, such as pictures of the first female US infantry soldier, Christina Fuentes Montenegro. “This is an attempt to idealize, sanitize and reframe history based on current political interests,” says Meyer, “our whole visual heritage is at stake”. En marzo, se anunció que el Pentágono había marcado 26.000 fotos para su eliminación en los sitios web del ejército estadounidense, como señaló Meyer en un artículo invitado para el periódico alemán Frankfurter Allgemeine Sonntagszeitung. Las imágenes que se borrarán incluyen fotos de personas que no encajan en el ideal de un soldado masculino, blanco y heterosexual. Por lo tanto, se han eliminado las fotos de personal militar negro en la Segunda Guerra Mundial. Pero las fotos del siglo XXI también han desaparecido de Internet, como las fotos de la primera mujer soldado de infantería estadounidense, Christina Fuentes Montenegro. “Este es un intento de idealizar, desinfectar y replantear la historia en función de los intereses políticos actuales”, dice Meyer, “todo nuestro patrimonio visual está en juego”.
Datos de entrenamiento sesgados #
La purga de archivos también tiene un impacto en la generación de imágenes de IA. Esto se debe a que, en última instancia, los modelos de IA se entrenan con datos de imágenes archivados, que utilizan para generar nuevas imágenes. “Si solicita una herramienta de inteligencia artificial para generar una imagen de un soldado estadounidense, es probable que esto ya corresponda más o menos a los ideales trumpianos”, dice Roland Meyer, “si Internet continúa siendo limpiado en función de las categorías de supremacía blanca, es concebible que esto refuerce aún más los prejuicios racistas y sexistas en el futuro”.
Roland Meyer espera que su investigación aumente la conciencia sobre estas relaciones problemáticas en el mundo de las imágenes digitales. En el futuro, le gustaría llevar a cabo más investigaciones sobre cómo la IA cambia nuestra visión de los archivos y la historia. Una base clave para ello es el intercambio interdisciplinario en el nuevo Centro de Teoría de las Artes y la Cultura (ZKK), creado en 2024 e incluye investigadores de la UZH y la Universidad de las Artes de Zúrich.
- El artículo False Heroes and a Disappearing Soldier fue publicado en la sección de noticias de la Universität Zürich, con la firma de Roger Nickl y la traducción de Gemma Brown
Contacto [Notaspampeanas](mailto: notaspampeanas@gmail.com)