Resumen de Transparencia en la Inteligencia Artificial: explorando la necesidad de acceso al código fuente por parte de los Comités de Empresa

Javier Ercilla García

• español

  Este artículo aborda la crucial necesidad de transparencia en la implementación de algoritmos y sistemas de Inteligencia Artificial (IA) en el ámbito laboral, enfocándose particularmente en la necesidad de que los comités de empresa tengan acceso al código fuente de dichos sistemas. Aunque los parámetros y las reglas de un algoritmo pueden ofrecer una visión general de cómo se toman las decisiones, el acceso al código fuente permite una comprensión más completa y la posibilidad de modificar el algoritmo para adaptarlo a las necesidades específicas. Esta transparencia resulta particularmente esencial cuando los algoritmos y la IA se utilizan para asignar tareas o evaluar el rendimiento de los empleados. Además, se resalta la importancia de la precisión en la implementación del algoritmo, señalando que errores en la programación pueden dar lugar a desviaciones significativas en los resultados. El artículo concluye instando a una modificación de la regulación actual para permitir el acceso al código fuente y promover una mayor transparencia, legibilidad y explicabilidad en la implementación de la IA.

• English

  This article addresses the crucial need for transparency in the implementation of algorithms and Artificial Intelligence (AI) systems in the workplace, particularly focusing on the need for works councils to have access to the source code of such systems. While the parameters and rules of an algorithm can provide a general understanding of how decisions are made, access to the source code allows for a more comprehensive understanding and the possibility to modify the algorithm to adapt it to specific needs. This transparency becomes particularly essential when algorithms and AI are used for task allocation or employee performance evaluation. Furthermore, it highlights the importance of precision in algorithm implementation, indicating that programming errors can lead to significant deviations in the results. The article concludes by urging for a modification of the current regulation to allow access to the source code and promote greater transparency, readability, and explainability in the implementation of AI.