Twitter elimina el algoritmo de recorte de fotografías después del análisis de sesgo racial

Esta es la forma en que se supone que funciona. Twitter fue alertado de un problema, analizó el problema y ahora lo está solucionando. Después de escuchar las quejas de que su algoritmo automático de recorte de fotos mostraba un sesgo racial, Twitter dedicó un tiempo a realizar un análisis, luego decidió eliminar la herramienta y dejar que las personas recortaran las fotos ellos mismos.

Quejas de sesgo de recorte de fotografías

En octubre pasado, los usuarios de Twitter se quejaron de que el algoritmo de recorte de fotos no trataba a todos por igual. El sitio de redes sociales anunció que analizaría su herramienta y procedió a hacerlo durante los próximos meses. Se instituyeron mejoras en la forma en que se evalúa el sesgo potencial, según un entrada en el blog escrito por Rumman Chowdhury, director de ingeniería de software de Twitter.

Comentarios sobre el recorte de fotos de Twitter

Este fue un esfuerzo de equipo entre el equipo de ML Ethics, Transparencia y Responsabilidad ((META) y el equipo de Content Understanding Research. El equipo cuestionó si el aprendizaje automático era la mejor herramienta para usar para el recorte de fotografías, el algoritmo se probó por género y raza. sesgo, y se cuestionó si a los usuarios se les permitía tomar sus propias decisiones.

Twitter instituyó el algoritmo de recorte de fotos en 2018. En ese momento, el objetivo era “mejorar la coherencia en el tamaño de las fotos en su línea de tiempo y permitirle ver más tweets de un vistazo”, según la publicación del blog. El algoritmo de prominencia se diseñó para juzgar lo que un lector podría querer ver en una foto, de modo que las partes sin importancia pudieran recortarse para hacer que la foto tenga un tamaño más visible.

Teléfono de recorte de fotos de Twitter

El análisis de Twitter consideró tres áreas que podrían provocar daños potenciales. La primera fueron las quejas de que el algoritmo de prominencia tenía preferencia por las personas blancas sobre las personas negras y los hombres sobre las mujeres. Otra área analizada fue si el algoritmo eligió el pecho o las piernas de una mujer sobre otros objetos en una foto. La tercera área que se abordó fue que la función no permitía a los usuarios expresarse de la manera que querían al no permitirles recortar sus propias fotos.

El análisis encontró “una diferencia del 8% de la paridad demográfica a favor de las mujeres” sobre los hombres, “una diferencia del 4% de la paridad demográfica a favor de las personas blancas” sobre las personas negras, “una diferencia del 7% de la paridad demográfica a favor de las mujeres blancas ”Sobre las mujeres negras, y“ una diferencia del 2% con respecto a la paridad demográfica a favor de los hombres blancos ”sobre los hombres negros.

Rsz 873ee953 59db 4927 B4da D9dc6451e2d5

Si bien el algoritmo de prominencia también probó la “mirada masculina”, no encontraron evidencia de sesgo de objetivación.

En última instancia, Twitter sabía que podía ajustar el algoritmo de recorte de fotos para abordar los sesgos, pero estaba “preocupado por el daño representativo del algoritmo automatizado cuando las personas no pueden representarse a sí mismas como deseen en la plataforma”. También se creía que había “otros daños potenciales más allá del alcance de este análisis, incluida la insensibilidad a los matices culturales.

Eliminar el algoritmo sesgado

Después de llegar a esa conclusión de que puede ser mejor permitir que los usuarios se expresen como deseen, Twitter “comenzó a probar una nueva forma de mostrar fotos de relación de aspecto estándar en su totalidad en iOS y Android, es decir, sin el recorte del algoritmo de prominencia”. Si bien permitía a los usuarios un mayor control con sus imágenes, Twitter también quería mejorar “la experiencia de las personas que ven las imágenes en su línea de tiempo”.

Para obtener el máximo control, los usuarios verán una vista previa de la imagen recortada antes de que se publique. Twitter está claro, ya que no se basa en el aprendizaje automático y permite que los usuarios hagan el recorte ellos mismos.

Siga leyendo para conocer los esfuerzos de Twitter para monetizar la plataforma con un plan para pagar posiblemente los tweets virales y las críticas que recibió de los usuarios que anunciaron “RIP Twitter” cuando se enteraron del plan.

¿Es útil este artículo?


¡Compártelo en tus redes sociales!

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *