Discriminación algorítmica e ilusoria neutralidad. Actuales desafíos ante el fortalecimiento de tradicionales desigualdades en materia de violencia contra la mujer

• López de Zubiría Díaz, Sandra ^[1]
  1. [1] Universidad Rey Juan Carlos

     Universidad Rey Juan Carlos

     Madrid, España

     
• Localización: Femeris: Revista Multidisciplinar de Estudios de Género, ISSN-e 2530-2442, Vol. 9, Nº. 2, 2024, págs. 77-94
• Idioma: español
• Enlaces
  • Texto completo
• Resumen
  • español

    El empleo de herramientas de inteligencia artificial aplicadas a diversos ámbitos constituye una realidad patente, conforme su uso crece exponencialmente con carácter general en múltiples ámbitos de la vida. Al respecto, se presenta aquí un análisis sobre aquellas cuestiones más alarmantes en materia preventiva e intervencionista, con especial vinculación al ámbito de la violencia de género. Entre otras, las que derivan de encontrarnos ante un sistema significativamente opaco, pero sobre el que se confía cierta neutralidad que puede convertirse en un instrumento capaz de obstaculizar la igualdad, a través de la proliferación de tradicionales discriminaciones enmascaradas en ilusorias neutralidades promovidas por herramientas generadas a partir de una base sesgada y excluyente. Con ello, lejos de combatir este fenómeno delictivo, estaremos fomentando sus bases patriarcales desigualitarias a través de la creación de herramientas tecnológicas teóricamente neutrales pero discriminatorias en la práctica. Al respecto, sin ánimo de desarrollar una postura negacionista ante la evolución tecnológica en este texto, lo que se realiza aquí es un estudio sobre aquellos aspectos que deben atenderse para que dicho avance evite el crecimiento de discriminaciones y violencias simbólicas, base de la violencia contra las mujeres, enmascaradas en una suerte de inteligencia artificial, neutral, que realmente esconda marcados sesgos de género

  • English

    The use of artificial intelligence tools applied to various fields is a reality, as their use grows exponentially in many areas of life. In this respect, we present here an analysis of the most alarming issues in terms of prevention and intervention, with special reference to the field of gender violence. These include, among others, those deriving from the fact that we are faced with a system that is significantly opaque, but which is trusted with a certain neutrality that can become an instrument capable of hindering equality, through the proliferation of traditional discriminations masked in illusory neutrality promoted by tools generated from a biased and excluding base. In this way, far from combating this criminal phenomenon, we will be promoting its unequal patriarchal bases through the creation of technological tools that are theoretically neutral but discriminatory in practice. In this respect, without wishing to develop a denialist stance towards technological evolution in this text, what is done here is a study of those aspects that must be addressed so that such progress avoids the growth of discrimination and symbolic violence, the basis of violence against women, masked in a kind of artificial intelligence, neutral, that really hides marked gender biases.