Sesgos y discriminaciones sociales de los algoritmos en Inteligencia Artificial: Una revisión documental

• Ramírez Autrán, Rodrigo ^[1]
  1. [1] Universidad Nacional Autónoma de México

     Universidad Nacional Autónoma de México

     México

     
• Localización: Entretextos, ISSN-e 2007-5316, Vol. 15, Nº. 39, 2023 (Ejemplar dedicado a: Technological, economic, social and cultural megatrends: the disruptive potential of Industry 4.0)
• Idioma: español
• Títulos paralelos:
  • Social biases and discriminations of algorithms in Artificial Intelligence: A literature review
• Enlaces
  • Texto completo (pdf)
  • Texto completo
• Resumen
  • español

    El objetivo de este trabajo es analizar el concepto y aplicación de la Inteligencia Artificial (IA) a la luz de los posibles sesgos, discriminaciones y desigualdades al momento de ser implementada en la sociedad. Mediante una investigación en repositorios especializados, se revisa una serie de externalidades negativas de los sistemas de IA, las cuales se podrían manifestar en aquellos grupos e individuos que carecen de la posibilidad de acceso, no cuentan con los medios para evaluar la calidad y veracidad de los datos masivos o que simplemente son segregados y/o discriminados por los algoritmos debido a su color de piel, etnia, género u otro aspecto. Este escenario fomentaría con mayor recurrencia dichas externalidades e incluso podría crear nuevas brechas digitales, sociales, políticas y económicas. Una de las preguntas clave que guiaron la investigación fue: ¿qué consecuencias éticas, morales y sociales podría implicar la presente generación en Inteligencia Artificial? La principal contribución de este artículo es la de proveer una revisión documental y ejemplificada con casos particulares a nivel internacional sobre el impacto social de dicha tecnología, particularmente desde una perspectiva de las Ciencias Sociales.

  • English

    The objective of the following work is to analyze the concept and application of Artificial Intelligence (AI) in light of the possible biases, discriminations and inequalities when it is implemented in society. Through research in specialized repositories, a series of negative externalities of AI systems are addressed, which could be manifesting in those groups and individuals who: lack the possibility of access, among those who do not have the means to evaluate the quality and veracity of massive data, or that are simply segregated and/or discriminated against by algorithms due to their skin color, ethnicity, gender or other. Such a scenario would encourage these externalities with greater recurrence and could even create new digital, social, political and economic divides. One of the key questions that guided the research was: what ethical, moral and social consequences do the present generation in Artificial Intelligence could imply? The main contribution of this article is to provide a document review exemplified with particular cases at an international level on the social impact of said technology, particularly from a Social Sciences perspective.