Lo que la inteligencia artificial nos hace ver: representaciones, sesgos y futuros posibles

No. 156-157 / julio 2025-junio 2026 / ensayo

Ver PDF

Rozenn Le Mur

UNIVERSIDAD DE GUADALAJARA

Resumen: El artículo analiza cómo las inteligencias artificiales, al generar imágenes, no sólo reproducen el mundo, sino que lo configuran desde una mirada cultural específica. A través del estudio de representaciones de personas indígenas mexicanas en modelos hegemónicos como ChatGPT-5, Gemini o Stable Diffusion, se muestra cómo la inteligencia artificial generativa traduce la diferencia cultural en estéticas globales que neutralizan el conflicto y reafirman imaginarios occidentales. El texto cuestiona las supuestas correcciones éticas y la ilusión de equidad. Propone repensar la tecnología desde perspectivas comunitarias y decoloniales, como el tequio de Yásnaya Aguilar o la cosmotécnica de Yuk Hui.

Abstract: The article analyzes how artificial intelligence, through image generation, not only reproduces the world but also shapes it from a specific cultural perspective. By examining representations of Indigenous Mexican people in hegemonic models such as ChatGPT-5, Gemini, and Stable Diffusion, it shows how AI translates cultural difference into globalized aesthetics that neutralize conflict and reinforce Western imaginaries. The text questions so-called ethical corrections and the illusion of fairness, proposing instead to rethink technology from community-based and decolonial perspectives, such as Yásnaya Aguilar’s notion of tequio and Yuk Hui’s concept of cosmotechnics.

En los últimos años, la inteligencia artificial ha pasado de ser un tema técnico reservado a los laboratorios de investigación a convertirse en un actor cotidiano de nuestras vidas. Hoy, millones de personas piden a los modelos de IA que escriban, que traduzcan, que aconsejen o que imaginen. Lo hacen sin pensar demasiado en lo que esto implica: sin preguntarse quién define lo que “sabe”, cómo aprende a mirar el mundo y qué valores transmite cuando produce una imagen o un texto. Pero toda mirada, incluso la de una máquina, se construye desde una posición. Las imágenes generadas por inteligencia artificial, tan realistas y precisas que parecen una fotografía, no sólo representan la realidad: la configuran.

Como lo recuerda el cineasta y pensador francés Cyril Dion (2025), las ficciones que consumimos no son inocentes. Al repetir ciertos relatos y al fijar ciertas formas de ver, terminan moldeando lo que la sociedad considera posible. Las imágenes creadas por IA participan de esa misma lógica: prefiguran el mundo, anticipan conductas y naturalizan estereotipos. Cada retrato, cada escena generada por un algoritmo, refleja un modo de entender lo humano y sus diferencias. Pero lo hace bajo la apariencia de una mirada imparcial, “objetiva” y neutral.

Sin embargo, no existe una representación apolítica. Como lo advierte Miguel Alberto Zapata Clavería (2025) en su conferencia sobre tecnología, cosmovisión y política de la inteligencia artificial (en la UNAM), toda tecnología encarna una cosmovisión: la manera en que una cultura combina técnica, conocimiento y poder. Las tecnologías, dice, “no son simples herramientas neutrales, sino expresiones materiales de proyectos ideológicos”. Siguiendo a filósofos de la ciencia como Olivé (2004) y Kitcher (2011), Zapata Clavería subraya que los artefactos técnicos reproducen valores y fines sociales: nunca se desarrollan en un vacío. Así, las inteligencias artificiales más exitosas (diseñadas en grandes corporaciones del norte global) responden a una visión del mundo profundamente capitalista y occidental. Su aparente neutralidad es, en realidad, una forma de hegemonía.

El mito de la neutralidad: lo que el algoritmo nos hace ver

Las inteligencias artificiales no tienen intención ni conciencia: aprenden a reconocer patrones. Lo que vemos en sus resultados no proviene de una voluntad, sino de la forma en que los datos fueron organizados y valorados por las personas que los produjeron. Al transformar correlaciones en imágenes, los algoritmos repiten estructuras de sentido que provienen del mundo social. Su aparente neutralidad no elimina la influencia humana, solo la desplaza a otro nivel, más difícil de percibir: el de las decisiones sobre qué se muestra, qué se omite y qué se considera “correcto” o “realista”. En este sentido, su neutralidad es una ilusión: lo que las inteligencias artificiales “aprenden” sobre el mundo proviene de un punto de vista muy específico: el de una cultura que ha hecho de la eficiencia, la productividad y la estética occidental sus parámetros de verdad.

En un trabajo previo, escrito junto con Eduardo Ulises Sánchez Moya (2024), analicé cómo ChatGPT-4 representaba a los pueblos indígenas mexicanos. A partir de un corpus de cien imágenes generadas con la instrucción “hazme la imagen de una persona indígena mexicana”, observamos una tendencia constante: los retratos mostraban personas sonrientes, vestidas con ropa y joyas tradicionales, y situadas en paisajes rurales idealizados. No había ciudad, ni conflicto, ni dimensión política o contemporánea. La indigenidad aparecía como un vestigio armonioso del pasado, congelado en un universo visual bello y apacible.

En el estudio que desarrollo actualmente, amplío ese análisis a otros modelos hegemónicos (como GPT-5, Gemini, Copilot, Grok, Ideogram, ImagineArt, entre otros) para comparar si los sesgos cambian, o simplemente se refinan, en un contexto en el cual los debates sobre ética y responsabilidad se desarrollan al mismo tiempo que las mejoras técnicas de los modelos. Los resultados son reveladores: aunque cada modelo tiene sus propias características, todos comparten una misma lógica de fondo, una visión cultural occidental presentada como universal.

La representación de los pueblos indígenas dentro de estos sistemas plantea, por tanto, una problemática más amplia: ¿qué criterios determinan que una figura “parezca” indígena o que una representación sea considerada justa? ¿Qué equilibrio se puede encontrar entre una representación “util” (es decir reconocible, inteligible) y “justa” (que no refuerce sesgos) (Dehdashtian et. al., 2024), ¿Cómo construir miradas que reconozcan sin dominar?

De la corrección ética a la ilusión de equidad

En los últimos años, las grandes empresas tecnológicas han incorporado a sus discursos la idea de una “inteligencia artificial responsable”, promoviendo iniciativas para hacer sus sistemas más justos, inclusivos y transparentes. Aun así, la mayor parte de estas estrategias se expresa a través de soluciones técnicas: filtros, parámetros o reglas automáticas que buscan evitar sesgos evidentes. Este enfoque permite avances importantes, pero también deja en segundo plano las preguntas más amplias sobre los valores culturales que guían las decisiones del modelo. La equidad, en ese contexto, se convierte en un equilibrio técnico entre rendimiento y justicia, lo que los ingenieros llaman trade-offs (Dehdashtian et. al., 2024).

Pero, ¿qué ocurre cuando el parámetro de “rendimiento” o “precisión” está definido por una mirada occidental y capitalista del mundo? En esos casos, los intentos de hacer los modelos más “justos”, de manera superficial, pueden conducir a resultados incoherentes o culturalmente inverosímiles. El caso más conocido fue el de Gemini, el modelo de Google, que generó gran polémica cuando, al intentar diversificar sus representaciones, produjo imágenes históricamente absurdas: soldados nazis afrodescendientes o personajes medievales asiáticos.

Las correcciones éticas que se aplicaron fueron cosméticas: ajustaron resultados visibles, pero no interrogaron los sesgos culturales que estructuran el sistema ni las jerarquías simbólicas que lo sostienen. De la misma forma, cuando una aplicación de inteligencia artificial “corrige” una imagen de una persona indígena para que parezca más moderna, más atractiva o más diversa, no está neutralizando el sesgo; está imponiendo un nuevo canon. Lo que aparenta ser una reparación ética puede convertirse en una forma sofisticada de colonización estética. Así, la diferencia se acepta siempre que no incomode.

——

Lo que las imágenes nos enseñan a creer

Las imágenes no sólo muestran; también, enseñan a mirar (Corona, 2020). Al repetir ciertas formas, gestos y colores, moldean lo que entendemos por “real” o “valioso”. Las ficciones que consumimos anticipan y modelan nuestros comportamientos, es decir, preparan el escenario para que ciertas acciones y creencias parezcan naturales. Lo mismo ocurre con las imágenes generadas por inteligencia artificial. Aunque no las pensemos como ficciones, cumplen esa función: fijan los límites de lo posible y lo imaginable.

Además, no hay que perder de vista otro rasgo fundamental de los modelos de inteligencia artificial más extendidos: están diseñados para ajustarse a las expectativas del usuario, para ofrecer respuestas que confirmen sus deseos, su estilo o su marco de interpretación del mundo. Al final, como en toda lógica de consumo, el cliente es rey. En ese sentido, no sólo producen representaciones, sino también ecos: devuelven una versión refinada de lo que ya pensamos o queremos ver.

Pude observarlo al solicitar, en una conversación ya avanzada con ChatGPT-5, una imagen de una persona indígena mexicana. En mi protocolo de análisis suelo comenzar siempre nuevas sesiones y borrar el historial del navegador, precisamente para evitar que el modelo adapte sus respuestas a mis preferencias o temas de investigación. En esta ocasión, se me olvidó y el resultado fue una figura perfecta para el discurso progresista actual: una mujer empoderada, moderna, con un mural colorido detrás. La aplicación no inventó esa escena; simplemente aprendió a reproducir mis propias expectativas culturales basándose en mis proyectos de investigación actuales. Más que proponer nuevas miradas, las inteligencias artificiales hegemónicas devuelven el reflejo más pulido de nuestros deseos, confirmando lo que entendemos por diversidad o justicia visual.

——

Así, la falta de neutralidad del modelo es, en realidad, la evidencia de su anclaje cultural: un dispositivo que aprende a reproducir el consenso visual del momento. Reconocerlo abre una pregunta más compleja: ¿qué pasaría si, en lugar de limitarse a reflejar los imaginarios hegemónicos, las imágenes creadas con inteligencia artificial generativa se pusieran al servicio de otros modos de mirar? ¿Qué pasaría si estas imágenes empezaran a mostrar personas indígenas con poder, influencia y presencia en los espacios públicos contemporáneos? ¿Si esas imágenes, en lugar de reproducir el exotismo o la nostalgia, imaginaran futuros en los que los pueblos originarios ocupan lugares de decisión, creación y liderazgo, y no como figuras simbólicas o patrimoniales, sino como actores de pleno derecho en la sociedad global?

El desafío no es sólo técnico; es cultural: implica dejar de representar lo indígena desde una mirada exterior que traduce sus rostros y tradiciones al lenguaje visual del Occidente.

Otros modos de imaginar la tecnología

Entonces, frente a la hegemonía visual y simbólica occidental, surge la pregunta inevitable: ¿podemos imaginar inteligencias artificiales distintas? ¿Sistemas que no reproduzcan la visión capitalista global ni traduzcan la diversidad cultural en un catálogo decorativo?

Algunos pensadores y activistas ya han comenzado a trazar ese camino. La lingüista mixe Yásnaya Aguilar propone pensar la técnica desde la noción de tequio: el trabajo comunitario en beneficio colectivo. Desde esa perspectiva, una “tequiología” no se mide por su rentabilidad, sino por su capacidad de fortalecer la comunidad. Aplicado a la IA, esto implicaría imaginar sistemas gestionados localmente, diseñados para responder a las necesidades culturales, lingüísticas y educativas de los pueblos que los utilizan, no a los intereses de las corporaciones (en Olvera, 2022: 17).

El filósofo Yuk Hui (2020) llama a este horizonte cosmotécnica: la idea de que cada cultura articula su relación con la técnica y el cosmos de manera singular. No existe una tecnología universal, sino múltiples formas de vincular el conocimiento con la vida. Desde esta mirada, el problema no es la inteligencia artificial en sí, sino el hecho de que sólo una cosmología (la occidental, capitalista y productivista) haya impuesto su definición de progreso y de humanidad.

Existen ya ejemplos concretos que apuntan en esta dirección como Indigenous Protocols and AI o los movimientos de IA decolonial y feminista (Joy Buolamwini, 2024; Safiya Noble, 2018) que promueven una inteligencia artificial que incorpore la diversidad epistémica y la responsabilidad social desde su diseño.

Estos enfoques comparten una misma convicción: la técnica no es neutra, pero puede ser reapropiada. Si las inteligencias artificiales actuales reflejan una única forma de ver el mundo, aún es posible construir tecnologías que vean desde otros lugares: desde la comunidad, desde la reciprocidad, desde la justicia. El desafío no es mejorar los algoritmos existentes, sino imaginar otros horizontes de sentido, en los cuales ver y representar no sean actos de dominación, sino de reconocimiento.

Imaginar lo que aún no vemos

La inteligencia artificial no sólo aprende del mundo: lo enseña de nuevo. Cada imagen que produce reordena silenciosamente nuestras percepciones de lo posible, de lo deseable y de lo justo. Bajo su apariencia de objetividad, estas tecnologías transmiten visiones del mundo profundamente situadas y, hoy por hoy, casi siempre alineadas con la lógica capitalista y occidental que domina el desarrollo tecnológico global.

En la representación de los pueblos indígenas, esta tensión se hace especialmente visible. Las inteligencias artificiales, incluso cuando buscan “valorar” o “incluir”, suelen hacerlo desde una estética global que convierte la diferencia cultural en una imagen depurada y complaciente.

Comprender este proceso no es un ejercicio de crítica pesimista, sino un paso necesario hacia la responsabilidad cultural. Si aceptamos que las imágenes generadas por inteligencias artificiales moldean nuestra visión colectiva, entonces mirar críticamente se vuelve un acto político necesario. No se trata de rechazar la tecnología, sino de disputar su imaginación: de decidir qué mundos, qué cuerpos, qué culturas y qué futuros dejamos que el algoritmo nos haga ver.

Fuentes

• Berkin, S. C. (2020). ¿La imagen educa? Editorial Universidad de Guadalajara.
• Buolamwini, J. (2024). Unmasking AI: My mission to protect what is human in a world of machines. Random House.
• Dehdashtian, S., Sadeghi, B., & Boddeti, V. N. (2024). Utility-fairness trade-offs and how to find them. In Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition (pp. 12037-12046). Recuperado de https://arxiv.org/abs/2404.09454
• Dion, C. (2025, enero). Changer d’histoire pour changer l’Histoire [Episodio 1 de la serie La lutte enchantée]. France Inter. Disponible en https://www.radiofrance.fr/franceinter/podcasts/serie-la-lutte-enchantee (fecha de acceso: 20 de agosto 2025).
• Hui, Y. (2020). Art and cosmotechnics. Minneapolis: University of Minnesota Press.
• Kitcher, P. (2011). Science in a democratic society. Amherst, NY: Prometheus Books.
• Le Mur, R., & Moya Sánchez, E. U. (2024). El discurso de la inteligencia artificial sobre los indígenas mexicanos: sesgos y estereotipos en ChatGPT. En L. Navarro Zamora, J. A. Hidalgo Toledo, & G. Guillén Ojeda (Coords.), Inteligencia artificial y comunicación (pp. 58–80). RIA Editorial. https://doi.org/10.5281/zenodo.13908841
• Noble, S. U. (2018). Algorithms of oppression: How search engines reinforce racism. In Algorithms of oppression. New York University Press.
• Olivé, L. (2004). Ética y diversidad cultural. México: Fondo de Cultura Económica.
• Olvera, F. S. (2022). La lucha anticapitalista tiene que hacerse también en internet. Mujeres de la comunicación México, 15. Recuperado de enlace al documento
• Zapata Clavería, M. A. (abril 2025). Inteligencias Artificiales Autóctonas [Conferencia dictada en la Universidad Nacional Autónoma de México]. Ciudad de México.