El pasado fin de semana un sistema de algoritmos demostró que, al momento recortes y previsualizarlos, sospechosamente, favorecía a los hombres blancos por encima de los otros.
Rober Díaz. Península 360 Press.
Un gran escándalo ocurrió este fin de semana: usuarios de la red social Twitter, fundada en 2006 por Jack Dorsey, Noah Glass, Biz Stone y Eva Willians, con sede en San Francisco, debatieron un algoritmo que permite dar vistas previas para que el usuario tenga una imagen del tweet, si se trata de una nota o de un blog o página.
Todo comenzó por las imágenes de previsualización de otra plataforma que, tras la pandemia por la COVID-19, tomó una importancia capital en el mundo Zoom, ya que uno de los usuarios, Colin Madland, se dio cuenta de que al compartir la imagen donde estaba con su jefe de piel negra, solo salía él de piel más blanca.
Colin, hizo varios intentos en Twitter para comprobar que era aleatorio y no realmente una programación prefigurada. Cambió la imagen y subió variaciones de la misma para comprobar que en todos los casos la previsualización eliminaba la figura de su jefe.
Se siguieron haciendo pruebas. El investigador Vinay Prabuh hizo una prueba con 92 pares de imágenes y descubrió que 52 de ellas se seleccionaba la cara negra. Es decir, que dicho problema no es tal. A pesar de ello los debates se multiplicaron por la Red Social y distintos desarrolladores de la compañía salieron a decir que Twitter ya había pasado por ese dilema, ya que antiguamente se usaba el reconocimiento facial y la Inteligencia Artificial para obtener las imágenes de las previsualizaciones.
Desde el 2018 dejaron de hacerlo por las fallas en la IA y los sesgos que podía generar, intencionadamente o no. El algoritmo que usa ahora Twitter para crear sus previsualizaciones se entrena con datos procedentes de sistemas de seguimiento ocular, y responde a las zonas con mayor contraste, caras, animales o texto, pero no busca estos parámetros de forma activa en sí mismos.
