Resumen de Incertidumbres algorítmicas en torno a las violencias de género: El caso del sistema VioGén y otros sistemas de predicción del riesgo

Ángel Juan Gordo López, María José Rubio Martín

• español

  En la sociedad actual los algoritmos juegan un papel destacado en la toma de decisiones, desde la búsqueda de información hasta la estimación de conductas delictivas. Los sistemas algorítmicos de evaluación del riesgo se han convertido en una herramienta clave para la prevención y la protección de las víctimas de violencia de género. Este artículo analiza las principales bondades y críticas de los sistemas algorítmicos de evaluación del riesgo, con especial énfasis en el caso de la violencia de género. En la primera parte se identifican las principales ventajas y limitaciones de estos sistemas, según sus defensores y detractores. En la segunda parte se revisan los más importantes modelos y programas vigentes en numerosos países occidentales, así como los distintos sistemas de evaluación del riesgo de violencia de género presentes en España, con especial detenimiento en el sistema VioGén. En la tercera parte, se discuten propuestas éticas y sociales que surgen en torno a estos sistemas.

• English

  In today's society, algorithms play a central role in decision-making, from information retrieval to the estimation of recidivism. In the context of gender-based violence, algorithmic risk assessment systems have become a critical tool for prevention and victim protection. This article analyzes the main strengths and criticisms of algorithmic risk assessment systems, with a special focus on the case of gender-based violence. In the first part, the main advantages and limitations of these systems are identified, according to their proponents and opponents. The second part reviews the main models and programs implemented in numerous Western countries, along with the various gender-based violence risk assessment systems operational in Spain, with a particular focus on the VioGén system. The third part discusses ethical and social proposals that have emerged concerning these systems.