Injusticia epistémica y reproducción de sesgos de género en la inteligencia artificial

• Perdomo Reyes, Inmaculada ^[1]
  1. [1] Universidad de La Laguna

     Universidad de La Laguna

     San Cristóbal de La Laguna, España

     
• Localización: CTS: Revista iberoamericana de ciencia, tecnología y sociedad, ISSN-e 1850-0013, ISSN 1668-0030, Vol. 19, Nº. 56, 2024, págs. 89-100
• Idioma: español
• Títulos paralelos:
  • Injustiça epistêmica e reprodução do preconceito de gênero na inteligência artificial
  • Epistemic Injustice and Reproduction of Gender Bias in Artificial Intelligence
• Enlaces
  • Texto completo (pdf)
• Resumen
  • español

    La inteligencia artificial (IA) generativa reifica y pone en circulación las brechas y los sesgos de género ya existentes, pero otorgándoles un barniz de objetividad y neutralidad a pesar de la opacidad de los procesos y su capacidad para reproducir e incrementar las situaciones de desigualdad y exclusión. La situación es de clara injusticia algorítmica y epistémica y nos enfrenta con retos de gran envergadura en nuestras modernas democracias. Con ejemplos de casos concretos y con la revisión crítica de importantes textos que ofrecen claves interpretativas para comprender el impacto del rápido desarrollo e implantación de estas herramientas, trazaremos algunas líneas maestras que requerirán de estudios con mayor profundidad pero que pretenden recoger, desde la perspectiva de los estudios de ciencia, tecnología y género, nuevos desafíos para el desarrollo de la disciplina y avistar las posibilidades de una IA feminista.

  • English

    Generative AIs reify and circulate existing gender gaps and biases, but give them a veneer of objectivity and neutrality despite the opacity of their processes and ability to reproduce and increase situations of inequality and exclusion. The situation is one of clear algorithmic and epistemic injustice that confronts us with major challenges in our modern democracies. With examples of specific cases and with the critical review of important texts that offer interpretative keys to understand the impact of the rapid development and implementation of these tools, we will outline some guidelines that will require more in-depth studies, but that aim to collect, from the perspective of science, technology and gender studies, new challenges for the development of the discipline and to envision the possibilities of a feminist AI.

  • português

    As IAs generativas reificam e fazem circular as lacunas e preconceitos de género existentes, mas conferem-lhes um verniz de objetividade e neutralidade, apesar da opacidade dos processos e da sua capacidade de reproduzir e aumentar situações de desigualdade e exclusão. A situação é de clara injustiça algorítmica e epistémica e confronta-nos com grandes desafios nas nossas democracias modernas. Com exemplos de casos específicos e com a revisão crítica de textos importantes que oferecem chaves interpretativas para compreender o impacto do rápido desenvolvimento e implementação dessas ferramentas, traçaremos algumas diretrizes que exigirão estudos mais aprofundados, mas que visam coletar, na perspetiva da ciência, tecnologia e estudos de gênero, novos desafios para o desenvolvimento da disciplina e ver as possibilidades de uma IA feminista.