Resumen de O Direito à Explicação nas Decisões Automatizadas: uma Abordagem Comparativa Entre o Ordenamento Brasileiro e Europeu

Daniela Wendt Toniazzo, Tales Schmidke Barbosa, Regina Linden Ruaro

• English

  Automated decision-making can bring great benefits to humanity, and it is undeniable that machines pose a danger to human autonomy, as an individual, and can generate potentially discriminatory mechanisms due to the possibility of perverse manipulation of algorithms. Although the artificial intelligence technologies used in automated decisionmaking are presented as neutral, they are not, and some are even used for modulations of human behavior obtained with the profile data extraction, building a perfect world of personalized consumption. The present study aims to analyze the concept of automated decision-making and the extension of the scope of the right to explanation in the automated treatment of data in the Brazilian system in comparison with the European system. The right to explanation, one of the imperatives of ethical guidelines for reliable artificial intelligence in automated decision-making, is extremely relevant as a criterion opposed to discriminatory mechanisms and combating the opacity of this type of intelligence. The fact is that everything that can be achieved through a degree of automation deserves a recommendable human explanation. In fact, human supervision must guide all stages of the use of artificial intelligence mechanisms. The method used in the present investigation is the hypotheticaldeductive, in the approach, and the comparative, in the procedure. The fact is that every automated decision must be explainable, both in terms of its underlying logic and the rationale for the decision. There is also unreasonable to exclude the human element in the review of the automated decision. The present study will observe, by comparative means, the authorizing requirements of the automated decision and its consequences. Also, in order to achieve the desired result, a comparison will be made of the concept of the right to explanation in the European and Brazilian legal systems. As a result of the present study, it was concluded that the European Union treats the automated decision as a prohibition, while in Brazil there is a right to review the automated decision, failing to guarantee that this review is human. Therefore, there is no legal support in Brazil for the right to explanation

• português

  As decisões automatizadas podem trazer grandes benefícios para a humanidade, sendo inegável também que as máquinas representam perigo à autonomia do ser humano, como indivíduo, e podem gerar mecanismos potencialmente discriminatórios em razão da possibilidade de manejo perverso de algoritmos. Embora as tecnologias da inteligência artificial utilizadas nas decisões automatizadas sejam apresentadas como neutras, elas não o são, sendo algumas utilizadas inclusive para modulações de comportamento humano obtidas com o perfil da extração de dados, construindo-se um mundo perfeito de consumos personalizados. O presente estudo tem como objetivo analisar o conceito de decisão automatizada e a extensão do alcance do direito à explicação no tratamento automatizado de dados no ordenamento brasileiro em comparativo com o ordenamento europeu. O direito à explicação, um dos imperativos das orientações éticas para uma inteligência artificial de confiança nas decisões automatizadas, mostra-se de extrema relevância como critério oponível aos mecanismos discriminatórios e ao combate à opacidade desse tipo de inteligência. O fato é que toda decisão automatizada deve ser explicável, tanto no que se refere à sua lógica subjacente quanto ao fundamento da decisão. Também não é razoável a exclusão do elemento humano na revisão da decisão automatizada. O presente trabalho observará, por meio comparativo, os requisitos autorizadores da decisão automatizada e suas consequências. Além disso, para a busca do resultado almejado, será realizada uma comparação do conceito do direito à explicação nos ordenamentos europeu e brasileiro. Como resultado do presente estudo, concluiu-se que a União Europeia trata a decisão automatizada como uma proibição, enquanto no Brasil existe um direito à revisão da decisão automatizada, deixando de garantir também que essa revisão seja humana. Inexiste no Brasil, portanto, amparo legal para o direito à explicação.