¿Algoritmo racista? Twitter ofrece recompensa por detectar fallas

Redacción Tecnología / Maracaibo, Zulia / [email protected]
La gigantesca red social busca mejorar sus motores de búsqueda y herramientas para evitar problemas de discriminación

(Foto: Pixabay)

¿Es posible que un algoritmo sea racista, discrimine o refuerce estereotipos? Para muchos podría tratarse de una exageración, sin embargo, los expertos en Big Data y Machine Learning de Metalecture confirman esta posibilidad. 

‘‘Los algoritmos permiten filtrar el flujo de contenidos que navega en Internet según el comportamiento de navegación de cada usuario. Esto quiere decir que finalmente abstrae una información determinada y se adapta a ella. Si la información asimilada tiene prejuicios de género o raza, el algoritmo simplemente se adaptará a estos conceptos, por lo tanto, interaccionará con los usuarios basándose en sesgos’’, explican. 

Es así que Twitter, red social de 353 millones de usuarios en el mundo, puso en marcha un concurso entre expertos tecnológicos y hackers informáticos para detectar sesgos algorítmicos en sus motores de búsqueda y de promoción de publicaciones que discriminen o refuercen estereotipos.

Su Iniciativa de Aprendizaje Automático Responsable pone a prueba sus algoritmos con la finalidad de mejorarlos y evitar resultados injustos en desmedro de un grupo de usuarios en particular.

En la primera edición de la competencia, los representantes de Twitter entregaron el primer lugar a Bogdan Kulynych, quien demostró que un algoritmo de la red social permite subir fotos con filtros excesivos en las que resalta la expectativa social de belleza, aumentando los prejuicios sobre la apariencia física. De esta forma, las fotos de personas jóvenes, delgadas y de piel clara tenían una mayor preferencia de promoción frente a otros grupos.

El segundo lugar fue para HALT AI quien acreditó la discriminación contra ancianos y personas con discapacidad, ya que eran las personas más recortadas en las fotografías de grupo que se subían a la red social.

Además de por raza y color de piel, el sesgo algorítmico también se aplica contra los idiomas de las minorías. Así lo comprobó Roya Pakzad, otra de las ganadoras del concurso, quien publicó imágenes de memes con la única diferencia del idioma del texto. Los memes en español sufrían menos recortes que los memes publicados en árabe.

Polémica motivó cambios en Twitter

La polémica que alentó la convocatoria del concurso sucedió en abril, cuando los usuarios reportaron que la herramienta de recortar imágenes en el timeline tenía mejores resultados en imágenes de personas con tez blanca. Un tema preocupante, en vista que en 2020, en países de Europa como España aumentaron los crímenes de odio contra personas de otro color de piel.

En esta primera versión del concurso para piratas informáticos los premios fueron de hasta 3.500 dólares y además el código del error quedó publicado para su evaluación posterior. Nuevas versiones del concurso serían anunciadas por Twitter en breve debido a su interés por conseguir un algoritmo más igualitario y transparente posible.

 

¿Deseas recibir esta y otras noticias en tu celular? Únete a nuestro grupo de Telegram o WhatsApp a través de los siguientes enlaces: Telegram https://t.me/diariolaverdad  y WhatsApp https://bit.ly/3sSHMDQ.  Además, sigue nuestro perfil en Instagram @diariolaverdad y en Facebook y Twitter @laverdadweb.

Más noticias

Comentarios
© 2017, Diario La Verdad. Maracaibo. Venezuela C.A. RIF J-30540623-5. Términos Legales. Contáctenos via: [email protected] , [email protected] o [email protected]
Desarrollado por Miguel Guadarrama