Resumen de Ética y transparencia para la detección de sesgos algorítmicos de género
- español
La creciente importancia de los algoritmos pone en evidencia la discriminación que se registra, especialmente en género y minorías, así como la necesidad de transparencia en la aplicación de estas fórmulas frente a la opacidad de las corporaciones. A pesar de estos sesgos, en los algoritmos se apoya la toma de decisiones de casi todos los campos del conocimiento y de las actividades sociales, políticas y económicas a causa de una confianza casi ciega en los procesamientos informáticos, de un imaginario tecnológico sobre su capacidad para eliminar el error y el sesgo. El Efecto Manipulador del Motor de Búsqueda o Search Engine Manipulation Effect (SEME) (Epstein y Robertson, 2015) muestra efectos muy claros sobre el comportamiento del voto. También Caliskan y Bryson (2017) han detectado la reproducción de sesgos de género y étnicos, a partir de datos ya sesgados que conducen a desviaciones estadísticas muy importantes en el Big Data.
- English
The algorithms’ growing importance shows the discrimination registered, especially on gender and minority groups, besides the need of transparency in the application of these formulas against the corporations' opacity. Despite these biases, the making decision on almost all the knowledge fields, as well as the social, political and economic activities, leans on algorithms because of the blind trust in computer processing and the technological imaginary about their ability to eliminate the error and the bias. The Search Engine Manipulation Effect (SEME) (Epstein y Robertson, 2015) shows very clear effects on voting behavior. Caliskan y Bryson (2017) have also detected the reproduction of gender and ethnic biases when working on already biased data, which lead to a very important statistical deviations in Big.
