Presentación del video documental “Revolución vs el algoritmo” expone limitaciones en búsquedas de conceptos subjetivos

En el marco del Día Mundial de la Justicia Social y antes de la Conferencia Mundial de la UNESCO por un “Internet confiable“, la Agencia Bombay, Racismo MX y la UNESCO en México lanzaron una campaña que inicia con la presentación de un video documental titulado “Revolución vs el algoritmo”. Pero se debe hacer el cuestionamiento por la evidencia de si un algoritmo es el responsable de la discriminación en línea para juntos abordar estos problemas y crear un mundo más justo y sostenible.

Puntos destacados

• La UNESCO, la Agencia de Bombay y Racismo MX lanzaron una campaña en México con la presentación de un video documental titulado “Revolución vs Algoritmo” el 20 de febrero de 2023, en el marco del Día Mundial de la Justicia Social y antes de la Conferencia Mundial de la UNESCO para una “Internet Confiable”.
• El video expone la forma en que diferentes grupos, identidades, personas y cuerpos son estigmatizados y excluidos en los espacios y plataformas de internet que se utilizan diariamente, perpetuando prejuicios e desigualdades que obstaculizan la erradicación de estos problemas.
• La campaña fue lanzada en un contexto donde los recientes avances en inteligencia artificial (IA) han suscitado preocupaciones, como el futuro del trabajo, el derecho de autor y su impacto en prácticas delictivas.
• El video destaca problemas que requieren enfoques interdisciplinarios e interseccionales, como la desinformación, el racismo, la discriminación y el discurso de odio en el uso diario de tecnologías, plataformas de comunicación y AI simplificada.
• La campaña propone un ejercicio que registró la experiencia multimedia de diferentes figuras públicas que utilizaron el motor de búsqueda de imágenes más utilizado en el mundo y se enfrentaron a los resultados de conceptos como “hombre feliz”, “mujer hermosa”, “mujer exitosa” y “pobreza”. La búsqueda mostró que las personas indígenas no tenían presencia en categorías positivas como “hombre feliz” o “mujer exitosa”, mientras que la búsqueda de pobreza mostró principalmente a personas de piel morena y negra.
• El documental y la experiencia multimedia formaron parte del segundo Foro Global de la UNESCO contra el Racismo y la Discriminación celebrado en México a finales de noviembre de 2022.
• El algoritmo de motor de búsqueda utilizado por Google considera diversos factores y señales, como las palabras utilizadas en la búsqueda, la relevancia y calidad del contenido y la usabilidad, contexto y configuración de las páginas web. Sin embargo, los sistemas no están diseñados para analizar conceptos subjetivos como el punto de vista o las tendencias políticas del contenido en las páginas.

En resumen

La Agencia Bombay, Racismo MX y la UNESCO en México lanzaron una campaña que inicia con la presentación de un video documental titulado “Revolución vs el algoritmo” en el marco del Día Mundial de la Justicia Social y antes de la Conferencia Mundial de la UNESCO por un “Internet confiable”.

La iniciativa busca llamar la atención sobre las problemáticas de la desinformación, el racismo, la discriminación y discursos de odio en el uso diario de tecnologías, plataformas de comunicación y la inteligencia artificial.

Campaña contra el racismo y sesgos discriminatorias en plataformas y buscadores digitales

En el video presentado en 20 de febrero de 2023, en el Centro de Cultural Digital se expone desde la perspectiva de sus autores la forma en que diferentes grupos, identidades, personas y cuerpos son estigmatizados y excluidos en los espacios y plataformas de internet que utilizamos diariamente, como los motores de búsqueda, mientras que otros grupos son invisibilizados. Estas exclusiones perpetúan prejuicios y desigualdades, obstaculizando la erradicación de estas problemáticas.

Se informa que la campaña se lanzó en un contexto en el que los más recientes avances sobre la inteligencia artificial (IA) de aprendizaje automático y de aprendizaje profundo han replanteado preocupaciones en el diálogo público, como el futuro de los empleos, de los derechos de autor, hasta su impacto en prácticas criminales. No obstante, persisten problemáticas que requieren ser abordadas y exigen una dimensión interdisciplinaria e interseccional, tales como la desinformación, el racismo, la discriminación y discursos de odio en el uso diario de tecnologías, plataformas de comunicación y la IA simplificada, que se usa diariamente en los trabajos, las escuelas y los hogares, como asistentes virtuales y buscadores de Internet.

“Pocas veces la industria publicitaria te da la oportunidad de devolverle a la comunidad todo lo bueno que has recibido. En ese sentido, Bombay siempre ha estado involucrado en iniciativas que nos ayuden a cambiar el mundo, y contribuir con justicia e impacto positivo”, comentó Gonzalo Martínez, Director General de Bombay.

Ejercicio de una experiencia multimedia

En el comunicado de prensa se explica que la iniciativa expone distintos tipos de discriminación, como el racismo y el sesgo racial persistentes en un país en el que el 80% de la población es de tez morena. El documental propone un ejercicio que registró la experiencia multimedia de distintas figuras públicas quienes recurrieron al buscador de imágenes más usado en el mundo y se enfrentaron a los resultados de conceptos entre otros como:

• hombre feliz,
• mujer bonita,
• mujer exitosa,
• pobreza

La actividad fue parte del segundo Foro Global de la UNESCO contra el Racismo y la Discriminación, que tuvo a México como sede a finales de noviembre de 2022. La experiencia e instalación multimedia fue creada por el creativo publicitario Manuel Vega y su equipo de la agencia de comunicación Bombay, dirigida por el cineasta Mario Sandoval, y con la fotografía y cámara de Edgar Bahena.

Se afirma que el ejercicio mostró que las personas indígenas no tuvieron presencia en categorías “positivas”, como hombre o mujer feliz, hombre o mujer exitosa, mientras que la búsqueda de pobreza arrojó principalmente personas de tez morena y negra. 

Como funciona un buscador

De acuerdo a la explicación de google presentada en el documento “Clasificación de los resultados – Cómo funciona la Búsqueda de Google” https://www.google.com/intl/es/search/howsearchworks/how-search-works/ranking-results/ un buscador de internet es una herramienta que te permite encontrar información en línea sobre cualquier tema que te interese. Los buscadores utilizan algoritmos que buscan entre miles de millones de páginas web y otro contenido disponible en internet para ofrecerte los resultados más relevantes y útiles en cuestión de segundos.

Para determinar qué resultados son más relevantes, los algoritmos de búsqueda tienen en cuenta diferentes factores y señales, como las palabras que utilizas en tu búsqueda, la relevancia y calidad del contenido, la usabilidad de las páginas web, su contexto y configuración.

Se informa que los factores clave que determinan qué resultados se muestran cuando se hace una consulta son:

• Significado,
• Relevancia,
• Calidad,
• Usabilidad
• y Contexto.

Para este caso es necesario destacar el parrafo “Ten en cuenta que, aunque nuestros sistemas consultan estos indicios cuantificables para determinar la relevancia, no están diseñados para analizar conceptos subjetivos, como el punto de vista o las tendencias políticas del contenido de las páginas.“

Por ejemplo “mujer bonita” es una búsqueda subjetiva. La razón es que la belleza es un concepto subjetivo y cada persona puede tener su propia opinión sobre lo que considera una “mujer bonita“. Lo que una persona encuentra atractivo puede no ser lo mismo para otra persona. Por lo tanto, no hay una respuesta objetiva para esta búsqueda, ya que depende de las opiniones personales y los gustos individuales de cada usuario.

Documental “Revolución vs el algoritmo”

El video puede consultarse en youtube.com/RacismoMX y su versión con subtítulos en inglés en el canal internacional de la UNESCO: youtube.com/UNESCO. Además, se puede consultar el sitio de la campaña para sumarse a ella y consultar sugerencias para transformar los algoritmos en: https://youtu.be/La29wNCIAa4

Busqueda usando explicitamente México

Tal como se propone en el video y como parte de la verificación de hechos, realizamos la misma prueba y además realizamos otra agregando la palabra “México“. A continuación mostramos los resultados.

Niña bonita méxico

Mujer feliz mexico

Mujer bonita mexico

Mujer exitosa mexico

Mujer inspiradora mexico

Pobreza mexico

Hombre exitoso mexico

Hombre de negocios mexico

Hombre feliz mexico

En conclusión

El video documental presentado expone cómo diferentes grupos, identidades, personas y cuerpos son estigmatizados y excluidos en los espacios y plataformas de internet que utilizamos diariamente, como los motores de búsqueda, mientras que otros grupos son invisibilizados.

La crítica es que no se presenta evidencia clara de que un algoritmo sea el responsable de la discriminación denunciada. Además, se utiliza un ejercicio que no es científico ni representativo para demostrar la discriminación. La búsqueda de imágenes en Google no es un método válido para medir la discriminación en línea, ya que los resultados de búsqueda dependen de varios factores, incluida la ubicación geográfica, el historial de búsqueda y el comportamiento de navegación.

Sin embargo, cumple con el objetivo de hacernos reflexionar sobre la urgente necesidad de trabajar en la equidad y justicia social en internet y las redes sociales.