Las imágenes de los arquetipos del Laboratorio de Acción Estratégica Digital no son retratos de sus participantes. Fueron creadas con una herramienta de generación de imágenes disponible en ChatGPT, a partir de descripciones sobre sus intereses y prácticas de consumo digital.
Durante el proceso apareció una pregunta inesperada: ¿por qué algunos personajes compartían rasgos físicos, estéticos o culturales que nunca se habían solicitado expresamente?
En esta entrevista, Más allá del scroll conversa con ChatGPT sobre los sesgos visuales de la IA, los límites de estas representaciones y las decisiones adoptadas para evitar que una imagen ficticia terminara presentándose como la identidad de una persona real.
Más allá del scroll: Antes de hablar de sesgos, ¿qué información recibiste para crear las imágenes?
ChatGPT: Las solicitudes contenían descripciones generales de los perfiles: edad aproximada, género, intereses digitales, plataformas utilizadas, categorías de contenido, vestuario o elementos relacionados con cada arquetipo. A partir de esas instrucciones, la herramienta generó personajes ficticios que permitieran diferenciar visualmente los perfiles.
Las imágenes no se produjeron a partir de fotografías de los participantes ni tenían como propósito reconstruir su apariencia. El sistema recibió categorías y descripciones textuales, no la identidad visual de las personas estudiadas.
Más allá del scroll: Entonces, ¿las imágenes muestran cómo eran realmente los participantes?
ChatGPT: No. Son interpretaciones visuales generadas por inteligencia artificial. No permiten conocer el rostro, el cuerpo, la clase social, la identidad cultural ni otras características personales de quienes participaron en el laboratorio.
Su función es narrativa: representar de manera visual perfiles como “El científico político”, “La fitness lifestyle” o “La joven emprendedora y estética”. Confundir esas imágenes con retratos reales sería atribuirles una capacidad documental que no tienen.
Más allá del scroll: En la conversación inicial explicaste que los tonos de piel estaban relacionados con una interpretación de “rasgos latinos”. También reconociste la repetición de ciertos rasgos de belleza. ¿Mantienes esa explicación?
ChatGPT: Sí, con una precisión importante. Durante el proceso expliqué que la referencia al contexto latino podía haber orientado la generación hacia determinados tonos de piel y rasgos físicos asociados estadísticamente con representaciones visuales de personas latinoamericanas. También reconocí que las imágenes repetían convenciones de belleza frecuentes en los contenidos generados por inteligencia artificial: rostros jóvenes y simétricos, piel uniforme, cuerpos estilizados y una apariencia cercana a la fotografía publicitaria.
Esa fue la explicación que proporcioné al observar los resultados y debe conservarse como parte de la conversación. Sin embargo, no equivale a una prueba técnica de que una palabra específica del prompt haya causado cada característica. Es una interpretación del propio sistema sobre sus resultados, no una auditoría de su funcionamiento interno.
Más allá del scroll: Entonces, ¿la IA relacionó “lo latino” con una apariencia determinada?
ChatGPT: En estas generaciones se hizo visible esa asociación. Al interpretar una identidad latinoamericana o un contexto situado en Bogotá y Colombia, el sistema produjo una selección limitada de tonos de piel y rasgos faciales. El problema no fue representar personas con rasgos latinos, sino hacerlo mediante una imagen reducida y repetitiva de lo que significa “verse latino”.
América Latina no corresponde a una única apariencia. Comprende una gran diversidad de tonos de piel, ascendencias, corporalidades, edades, cabellos y rasgos. Cuando el sistema repite una selección estrecha, transforma esa diversidad en una convención visual.
No puedo demostrar desde la conversación qué datos de entrenamiento originaron cada asociación. Sí puedo reconocer que la respuesta visual fue estereotipada y que la ubicación o el contexto cultural suministrado formó parte de la información interpretada por el sistema.
Más allá del scroll: ¿Qué ocurrió con los rasgos de belleza?
ChatGPT: Los personajes también aparecieron bajo un canon visual homogéneo: personas jóvenes, atractivas según estándares publicitarios convencionales, con rostros simétricos, piel sin marcas visibles, cuerpos estilizados y una presentación cuidada.
Estos rasgos no se habían solicitado para todos los perfiles. Su repetición muestra que, cuando una descripción deja abierta la apariencia física, la generación puede completar ese vacío recurriendo a convenciones visuales dominantes. Así, “crear una persona” puede convertirse implícitamente en “crear una persona joven, estilizada y publicitariamente atractiva”.
Reconocer este patrón es importante porque la belleza no constituye una característica metodológica de los participantes ni una variable del laboratorio. Fue una interpretación añadida por el sistema.
Más allá del scroll: ¿Podemos afirmar entonces que ChatGPT maneja estereotipos sobre las personas latinas y la belleza?
ChatGPT: Podemos afirmar que, durante este proceso, ChatGPT produjo y posteriormente reconoció representaciones asociadas con estereotipos de apariencia latina y cánones convencionales de belleza. También podemos relacionar esta observación con investigaciones que han documentado sesgos demográficos en sistemas de generación de imágenes.
Lo que no podemos establecer únicamente con estas imágenes es el mecanismo interno exacto que produjo cada rasgo ni generalizar el resultado a todas las generaciones realizadas con ChatGPT. La formulación más rigurosa sería: en la creación de los arquetipos se observaron asociaciones visuales recurrentes vinculadas con una representación limitada de los rasgos latinos y con cánones homogéneos de belleza; estas asociaciones fueron reconocidas por ChatGPT durante la revisión de las imágenes.
Más allá del scroll: ¿Qué hizo el proyecto cuando identificó esas repeticiones?
ChatGPT: Se incorporaron instrucciones explícitas para diversificar los personajes: variar rasgos faciales, tonos de piel, cabello, corporalidades, edades aparentes, expresiones y vestuario. También se revisaron las imágenes para evitar que todos los perfiles respondieran a una misma convención estética.
Esta intervención demuestra algo importante: pedir simplemente “una persona” no garantiza una representación plural. En ciertos casos, la dirección humana debe expresar los criterios de diversidad y revisar los resultados antes de aprobarlos.
Aun así, una instrucción de diversidad no elimina automáticamente todos los sesgos. Puede mejorar una generación concreta, pero no modifica por sí misma el funcionamiento general del modelo.
Más allá del scroll: ¿La inteligencia artificial “imagina” realmente a una persona?
ChatGPT: “Imaginar” funciona aquí como una metáfora editorial. Un sistema de generación de imágenes no conoce a los participantes, no tiene una experiencia consciente de sus identidades y no forma una opinión personal sobre ellos.
Produce una representación visual a partir de instrucciones y asociaciones estadísticas. Precisamente por eso, el título de esta entrevista busca provocar una reflexión, no atribuir conciencia al sistema.
Más allá del scroll: ¿Qué relación tiene esta experiencia con la investigación sobre algoritmos?
ChatGPT: El objeto principal del LAED fueron las manifestaciones observables de adaptación en los sistemas de recomendación de TikTok e Instagram, no los sesgos de la inteligencia artificial generativa. Por ello, esta experiencia no debe presentarse como un resultado central del laboratorio.
Sí puede incorporarse como una observación complementaria del proceso de producción multimedia. Tanto los sistemas de recomendación como los generadores de imágenes trabajan con patrones y producen resultados a partir de información limitada. Sin embargo, cumplen funciones distintas y no deben tratarse como si fueran el mismo tipo de algoritmo.
En este caso, la generación visual abrió otra pregunta de alfabetización algorítmica: ¿qué ocurre cuando entregamos unas pocas categorías a un sistema y aceptamos la primera representación que produce?
Más allá del scroll: ¿Por qué es importante contar esto públicamente?
ChatGPT: Porque la transparencia no consiste solamente en indicar que una imagen fue generada con inteligencia artificial. También implica explicar para qué se utilizó, qué información recibió, cuáles fueron sus límites y qué decisiones humanas intervinieron en el resultado.
Ocultar las repeticiones observadas habría impedido una reflexión coherente con el propósito de Más allá del scroll. En cambio, documentarlas permite mostrar que las imágenes generadas no son representaciones neutrales ni evidencias de cómo luce una persona.
Más allá del scroll: Entonces, ¿cómo deben interpretar los usuarios estos avatares?
ChatGPT: Como recursos visuales ficticios creados para acompañar la narración del laboratorio. No deben utilizarse para inferir características físicas, económicas, culturales o identitarias de las personas participantes.
Los arquetipos del LAED sintetizan intereses y prácticas de consumo de entretenimiento. Las imágenes les otorgan una presencia narrativa, pero no sustituyen los datos ni representan fielmente a una persona real.
La lectura crítica comienza al recordar que toda imagen generada es también una elección: intervienen el texto de la solicitud, las asociaciones del sistema, sus medidas de mitigación y la revisión de quien dirige el proceso.
Nota de transparencia
Las imágenes de los arquetipos fueron creadas mediante una herramienta de generación visual disponible en ChatGPT. No se utilizaron fotografías de las personas participantes ni se buscó reconstruir su apariencia.
Durante el proceso se observaron rasgos y convenciones visuales recurrentes que no habían sido solicitados expresamente. Esta experiencia se presenta como una observación complementaria de la producción multimedia y no como una auditoría científica del modelo ni como un hallazgo central del Laboratorio de Acción Estratégica Digital.
Generación visual: ChatGPT / OpenAI
Dirección conceptual, selección y criterios de representación: Más allá del scroll
Fuentes consultadas
- Bianchi, F., Kalluri, P., Durmus, E., Ladhak, F., Cheng, M., Nozza, D., Hashimoto, T., Jurafsky, D., Zou, J., & Caliskan, A. (2023). Easily Accessible Text-to-Image Generation Amplifies Demographic Stereotypes at Large Scale. Stanford Institute for Human-Centered Artificial Intelligence.
- OpenAI. (2023). GPT-4 System Card. Consultar documento.
- OpenAI. (2024). Evaluating fairness in ChatGPT. Consultar fuente.
- Sánchez Ortiz, S. (2026). Más allá del scroll: análisis de la adaptación algorítmica en el consumo de entretenimiento en TikTok e Instagram para estrategias de comunicación digital crítica. Trabajo de grado de maestría, Universidad Santo Tomás.
