Generando imágenes con Inteligencia Artificial: Los límites del algoritmo y los sesgos humanos

2022 ha sido el año de los generadores de imágenes de IA. En los últimos años, estos sistemas de aprendizaje automático se han modificado y refinado, pasando por múltiples iteraciones para encontrar su popularidad actual entre los usuarios de Internet cotidianos. Estos generadores de imágenes — DALL-E y Midjourney posiblemente los más destacados, generan imágenes a partir de una variedad de indicaciones de texto, por ejemplo, lo que permite a las personas crear representaciones conceptuales de arquitecturas del futuro, presente y pasado. Pero como existimos en un paisaje digital lleno de sesgos humanos — navegar estos generadores de imágenes requiere una reflexión cuidadosa.

Generando imágenes con Inteligencia Artificial: Los límites del algoritmo y los sesgos humanos - Imagen 2 de 13Generando imágenes con Inteligencia Artificial: Los límites del algoritmo y los sesgos humanos - Imagen 3 de 13Generando imágenes con Inteligencia Artificial: Los límites del algoritmo y los sesgos humanos - Imagen 4 de 13Generando imágenes con Inteligencia Artificial: Los límites del algoritmo y los sesgos humanos - Imagen 5 de 13Generando imágenes con Inteligencia Artificial: Los límites del algoritmo y los sesgos humanos - Más Imágenes+ 8

Midjourney es una herramienta de inteligencia artificial particularmente interesante, que ha demostrado ser popular entre artistas y diseñadores por sus imágenes imaginativas, similares a pinturas, creadas a partir de indicaciones de texto a veces mínimas. Pero los resultados que se obtienen al usar esta herramienta también plantean preguntas complicadas en torno a la creación y el diseño de imágenes, preguntas que surgen cuando se usan indicaciones como "arquitectura africana" para producir imágenes.

El término "arquitectura africana" es en sí mismo bastante polémico — un continente de naciones con distintos modos de práctica arquitectónica. Los debates han abundado anteriormente, y continúan produciéndose, sobre la utilidad de ciertas etiquetas geográficas como "África subsahariana", y se han mantenido multitud de conversaciones sobre el pernicioso encuadre del continente africano como un país singular.

Generando imágenes con Inteligencia Artificial: Los límites del algoritmo y los sesgos humanos - Imagen 6 de 13
Imagen de IA de mitad de viaje generada con el mensaje "Arquitectura africana". Imagen © Midjourney AI / Matthew Maganga

Al mismo tiempo, la historia del colonialismo europeo en el continente ha llevado a que bloques de naciones africanas compartan infraestructuras coloniales y poscoloniales similares, lo que a veces requiere la agrupación de países africanos selectos bajo una categorización común — como los paralelos que se encuentran en las estructuras modernistas tropicales de la era colonial y de la independencia en Ghana y Nigeria.

En Midjourney, escribir el mensaje "Arquitectura africana" ha producido imágenes de formas parecidas a cabañas, coronadas por lo que parecen techos de paja en un entorno aparentemente rural. La pronta "arquitectura vernácula en África" ha producido imágenes de naturaleza similar, edificios parecidos a cabañas con acacias en el fondo y tierra de color marrón rojizo en primer plano. Evidentemente, estas formas son comunes en todo el continente — desde los ejemplos de la arquitectura tradicional Sukuma que se encuentran en el Museo Bujora en la ciudad tanzana de Mwanza hasta las cabañas de rondavel que se encuentran en el sur de África. Pero a pesar de estas indicaciones generales — hay una clara falta de diversidad en el tipo de imágenes creadas, descuidando formas como los edificios de tierra con techo plano que se encuentran en la provincia marroquí de Ouarzazate, o incluso la arquitectura urbana extremadamente diversa en las metrópolis de África.

Generando imágenes con Inteligencia Artificial: Los límites del algoritmo y los sesgos humanos - Imagen 9 de 13
Imagen de IA de mitad de viaje generada con el mensaje "Arquitectura vernácula en África". Imagen © Midjourney AI / Matthew Maganga
Generando imágenes con Inteligencia Artificial: Los límites del algoritmo y los sesgos humanos - Imagen 7 de 13
Imagen de IA de mitad de viaje generada con el mensaje "Arquitectura vernácula en África". Imagen © Midjourney AI / Matthew Maganga

The generation of images of these types with those specific prompts reflects wider issues of how the African continent is viewed online—from the lack of access to conte

La generación de imágenes de este tipo con esas indicaciones específicas refleja cuestiones más amplias sobre cómo se ve el continente africano en línea, desde la falta de acceso al contenido en muchos idiomas africanos hasta la naturaleza persistente de las narrativas reduccionistas sobre el continente africano en la web. Los matices en las producciones de "arquitectura africana" del modelo generador de imágenes no son evidentes visualmente. En aras de la comparación, la propuesta "Arquitectura europea" ha representado lo que parecen ser grandes paisajes urbanos que no están fuera de lugar en Bruselas o París, pero nuevamente, hay una falta de variedad, ya que el modelo evita edificios más modernistas y retroalimenta formas arquitectónicas que encajaría en el molde del neoclasicismo.

Generando imágenes con Inteligencia Artificial: Los límites del algoritmo y los sesgos humanos - Imagen 13 de 13
Imagen de IA de mitad de viaje generada con el mensaje "Arquitectura europea". Imagen © Midjourney AI / Matthew Maganga
Generando imágenes con Inteligencia Artificial: Los límites del algoritmo y los sesgos humanos - Imagen 12 de 13
Imagen de IA de mitad de viaje generada con el mensaje "Arquitectura europea". Imagen © Midjourney AI / Matthew Maganga

Los algoritmos de arte generativo de IA generalmente funcionan basándose en grandes bancos de imágenes de un tema en particular para entrenar sus modelos de IA. Para Midjourney, los conjuntos de datos públicos se utilizan para producir los resultados generados por las indicaciones de texto y, naturalmente, los prejuicios presentes en las imágenes disponibles públicamente y cómo se clasifican se filtrarán al arte generado por los modelos entrenados en estas imágenes.

Las imágenes de "arquitectura africana" y "arquitectura vernácula en África" ​​compuestas por la IA probablemente sean el resultado de subtítulos demasiado simplificados de imágenes de arquitectura africana en línea, sin mencionar cómo los resultados visuales de la "arquitectura africana" aún pueden ser muy unidimensionales. cuando uno ingresa ese texto en un motor de búsqueda en línea.

Por supuesto, uno tiene la opción de ingresar mensajes de texto más específicos en la IA en lugar de generales, que abarquen etiquetas como "arquitectura africana" o "arquitectura europea". Ingresar a la pronta "arquitectura de Nairobi en la década de 2050", por ejemplo, devuelve imágenes de avenidas bordeadas de rascacielos en la capital de Kenia intercaladas con la vegetación del Parque Uhuru — con formas nebulosas que recuerdan a las Torres Teleposta y la Torre Times en el fondo. Pero el uso de estas indicaciones más precisas todavía significa que las imágenes creadas a partir de indicaciones más amplias en la línea de la "arquitectura africana" sufren de representaciones demasiado generalizadas — lo que refuerza un escenario que repite el escorzo problemático de la idea visual de la arquitectura africana.

Generando imágenes con Inteligencia Artificial: Los límites del algoritmo y los sesgos humanos - Imagen 11 de 13
Imagen de IA de mitad de viaje generada con el mensaje "Arquitectura africana". Imagen © Midjourney AI / Matthew Maganga
Generando imágenes con Inteligencia Artificial: Los límites del algoritmo y los sesgos humanos - Imagen 8 de 13
Imagen de IA de mitad de viaje generada con el mensaje "Arquitectura de Nairobi en la década de 2050". Imagen © Midjourney AI / Matthew Maganga

Mucho se ha dicho sobre qué tipo de conocimiento es dominante en el aprendizaje automático y cuántos algoritmos no representan con precisión el contexto global en el que vivimos. Y como diseñadores, artistas y aficionados cotidianos — en los primeros días de generadores de imágenes de IA competentes — para continuar explorando y probando conceptos creativos a través de programas, es útil considerar cuánto estas imágenes especulativas podrían terminar reforzando las imágenes estereotipadas de las que el mundo haría bien en apartarse.

Galería de Imágenes

Ver todoMostrar menos
Sobre este autor/a
Cita: Maganga, Matthew. "Generando imágenes con Inteligencia Artificial: Los límites del algoritmo y los sesgos humanos" [The AI Image Generator: The Limits of the Algorithm and Human Biases] 26 nov 2022. ArchDaily en Español. (Trad. Rojas, Piedad) Accedido el . <https://www.archdaily.cl/cl/992350/el-generador-de-imagenes-de-ia-los-limites-del-algoritmo-y-los-sesgos-humanos> ISSN 0719-8914

Has seguido tu primera cuenta!

¿Sabías?

¡Ahora recibirás actualizaciones de las cuentas a las que sigas! Sigue a tus autores, oficinas, usuarios favoritos y personaliza tu stream.