Ética em sistemas de IA: um olhar sobre a injustiça algorítmica e a deficiência

• Gomes, Vinicius Henrique dos Santos ^[1] ; Silva, Ruan Calors Alves ^[1] ; Neri, Thaise Cristina da Silva ^[1]
  1. [1] Universidade Federal de Pernambuco

     Universidade Federal de Pernambuco

     Brasil

     
• Localización: Revista dos Mestrados Profissionais, ISSN-e 2317-0115, Vol. 12, Nº. 2, 2023 (Ejemplar dedicado a: Edição Contributiva do SBTI 2023 e em fluxo normal), págs. 238-260
• Idioma: portugués
• Títulos paralelos:
  • Ethics in AI systems: a look at algorithmic injustice and disability
• Enlaces
  • Texto completo
• Resumen
  • English

    This study is part of the intersection between ethics, technology and the algorithmic discrimination faced by people with disabilities (PWD) in job selection processes, especially those involving artificial intelligence (AI) systems. The central objective is to analyze the algorithmic discrimination faced by PWD during AI-mediated job selection processes. This study seeks to fill a gap in research, as discrimination against PWD is rarely addressed in studies on algorithmic biases in automated hiring systems. The method used combines thematic analysis, which identifies themes and patterns in the data, with inductive interpretation to deepen understanding. The results reveal that algorithmic injustice against PWD is under-explored, even in discussions about algorithmic biases, highlighting the lack of protection against disability-related prejudice. It also highlights the importance of incorporating ethical principles into decisions made by automated systems. This study aims to stimulate dialogue and raise awareness about algorithmic injustice against PWD, promoting ethics and inclusion in the AI-mediated job selection environment.

  • português

    Este estudo se insere na interseção entre ética, tecnologia e a discriminação algorítmica enfrentada por pessoas com deficiência (PCD) em processos de seleção de emprego, especialmente aqueles envolvendo sistemas de inteligência artificial (IA). O objetivo central é analisar a discriminação algorítmica enfrentada por PCD durante os processos de seleção de emprego mediados por IA. Este estudo busca preencher uma lacuna na pesquisa, pois a discriminação contra PCD raramente é abordada nos estudos sobre vieses algorítmicos em sistemas de contratação automatizada. O método utilizado combina análise temática, que identifica temas e padrões nos dados, com interpretação indutiva para aprofundar a compreensão. Os resultados revelam que a injustiça algorítmica contra PCD é subexplorada, mesmo em discussões sobre vieses algorítmicos, evidenciando a falta de proteção contra preconceitos relacionados à deficiência. Além disso, destaca a importância de incorporar princípios éticos nas decisões tomadas por sistemas automatizados. Esse estudo visa estimular o diálogo e conscientização sobre a injustiça algorítmica contra PCD, promovendo a ética e a inclusão no ambiente de seleção de emprego mediado pela IA.