Resumen de Aplicación de herramientas de IA como metodología para el análisis de la toxicidad en redes sociales: estudio de caso de la política española en Twitter

Uxía Carral, Carlos Elías

• español

  Introducción: Se analiza una nueva metodología de inteligencia artificial (IA), entendiendo que la comunicación se presenta como uno de los campos de trabajo más trascendentes para su aplicación. Además de las fases de recolección y producción de contenido, otras áreas dentro del mundo de la comunicación como la distribución, y en concreto la moderación de comentarios (en redes sociales y en medios) también están viviendo un período de innovación, pero de forma menos evidente para la audiencia.Metodología: Se procede a conocer cómo diversas herramientas de IA pueden medir la calidad de la conversación y combatir la toxicidad en espacios comunicativos. Se han analizado 43.165 tuits publicados del 18 al 24 de octubre de 2021 correspondientes a siete políticos españoles y a la cascada de respuestas de los usuarios. Resultados: Las principales consecuencias apuntan a los insultos como la categoría tóxica predominante en los comentarios, independientemente de la ideología. Además, las conversaciones cuentan con un promedio del 21% de usuarios bots. Discusión: Visto lo anterior, esta investigación muestra cómo nuevas metodologías de IA pueden contabilizar un término hasta ahora tan cualitativo como la toxicidad y contradice los hallazgos previos sobre bots como difusores de toxicidad, siendo los usuarios reales quienes más toxicidad generan. Conclusiones: En el estudio concreto de política, se percibe una diferencia de comportamientos entre la conversación horizontal entre pares y la vertical con los políticos. Por tanto, estas herramientas ayudan a visibilizar nuevas realidades como la toxicidad, con el fin último de llegar a erradicarla y sanear el debate online.

• English

  Introduction: A new artificial intelligence (AI) methodology is analyzed, with the understanding that communication is one of the most important fields of work for its application. In addition to the content collection and production phases, other areas within the world of communication such as distribution, and specifically the moderation of comments (on social networks and in the media) are also experiencing a period of innovation, but in a less obvious way for the audience. Methodology: We proceeded to find out how various AI tools can measure the quality of the conversation and combat toxicity in communicative spaces. We analyzed 43,165 tweets published from 18 to 24 October 2021 corresponding to seven Spanish politicians and the cascade of user responses. Results: The main consequences point to insults as the predominant toxic category in the comments, regardless of ideology. In addition, the conversations have an average of 21% of bots. Discussion: Given the above, this research shows how new AI methodologies can account for a hitherto qualitative term such as toxicity and contradicts previous findings on bots as spreaders of toxicity, with real users generating the most toxicity. Conclusions: In the specific study of politics, there is a perceived difference in behaviors between horizontal conversation between peers and vertical conversation with politicians. Therefore, these tools help to make visible new realities such as toxicity, with the ultimate aim of eradicating it and cleaning up the online debate.