Particularidades probatorias del discurso de odio en Internet: identificación de factores de polarización radical mediante sistemas algorítmicos

• Federico Bueno de Mata ^[1]
  1. [1] Universidad de Salamanca

     Universidad de Salamanca

     Salamanca, España

     
• Localización: IDP: revista de Internet, derecho y política = revista d'Internet, dret i política, ISSN-e 1699-8154, Nº. 39, 2023 (Ejemplar dedicado a: "Digitalització i algoritmització de la justícia")
• Idioma: español
• Títulos paralelos:
  • Evidential particularities of hate speech on the Internet: identification of radical polarization factors through algorithmic systems
  • Particularitats probatòries del discurs d'odi a Internet: identificació de factors de polarització radical mitjançant sistemes algorítmics
• Enlaces
  • Texto completo (pdf)
• Resumen
  • español

    En el presente artículo se aborda la naturaleza jurídica de los factores de polarización radical de los delitos de odio como prueba en un proceso penal y como los sistemas algorítmicos pueden detectar su existencia a través de la monitorización y el análisis del discurso de odio en línea, conjugando su uso con técnicas OSINT y con una futurible prueba de inteligencia policial. Así, se parte del encuadramiento de los factores de polarización como prueba indiciaria en el proceso, para posteriormente identificar qué parámetros concretos se deberían tener en cuenta en estos casos para probar el discurso de odio en línea. Finalmente se analizan los algoritmos impulsados a nivel policial en España, planteando sus virtudes y limitaciones legales y planteando la necesidad de analizar cómo encajan estos algoritmos con la legislación, especialmente en relación con la prohibición de sistemas de policía predictiva y reincidencia criminal.

  • català

    En aquest article s'aborda la naturalesa jurídica dels factors de polarització radical dels delictes d'odi com a prova en un procés penal i com els sistemes algorítmics poden detectar-ne l'existència a través de la monitorització i l'anàlisi del discurs d'odi en línia, conjugant-ne l'ús amb tècniques OSINT i amb una futurible prova d'intel·ligència policial. Així, es parteix de l'enquadrament dels factors de polarització com a prova indiciària en el procés, per identificar posteriorment quins paràmetres concrets s'haurien de tenir en compte en aquests casos per provar el discurs d'odi en línia. Finalment s'analitzen els algorismes impulsats a nivell policial a Espanya, plantejant-ne les virtuts i les limitacions legals i plantejant la necessitat d'analitzar com encaixen aquests algorismes amb la legislació, especialment en relació amb la prohibició de sistemes de policia predictiva i reincidència criminal.

  • English

    This article addresses the legal nature of the radical polarization factors of hate crimes as evidence in a criminal process and how algorithmic systems can detect their existence through the monitoring and analysis of online hate speech. combining its use with OSINT techniques and with a future police intelligence test. Thus, we start from the framing of polarization factors as indicative evidence in the process, to subsequently identify what specific parameters should be taken into account in these cases to prove hate speech online. Finally, the algorithms promoted at the police level in Spain are analyzed, proposing their virtues and legal limitations and raising the need to analyze how these algorithms fit with the legislation, especially in relation to the prohibition of predictive policing systems and criminal recidivism.