Resumen de Sem Referências: o ChatGPT sob a perspectiva latouriana e a armadilha do Duplo Clique

José Victor Rodrigues Catalano, Bruno Rossi Lorenzi

• English

  Generative Artificial Intelligence has aroused great interest in the population, and ChatGPT is a notable example of this phenomenon, due to its wide media coverage. However, when analyzing the main controversies surrounding version 3.5 of ChatGPT, it is clear that the lack of reliable references is an alarming problem. In some cases, the tool generates inaccurate or false information, which some authors call 'hallucinations'. This article focuses on the problem of sources and references, which ChatGPT often fails to provide and in some cases even falsifies. As the use of the tool becomes more widespread, the issue of missing sources and or references may become even more serious. Users may consider ChatGPT as an infallible oracle, increasing its reliability by the simple habit of use. In this sense, we analyze this behavior in the light of the concept of Double Click, present in the work 'Investigation into the modes of existence: an anthropology of the modern', by Bruno Latour. Addressing the ignorance of mediations during the process of conversation (outputs) with AI and its possible effects for society, if blindly believing in outputs with lack of references (a double click) becomes a habit.

• português

  A Inteligência Artificial Generativa tem despertado grande interesse na população, e o ChatGPT é um exemplo notável desse fenômeno, devido à sua ampla cobertura midiática. Entretanto, ao analisarmos as principais controvérsias em torno da versão 3.5 do ChatGPT, fica evidente que a ausência de referências confiáveis é um problema alarmante. Em alguns casos, a ferramenta gera informações imprecisas ou falsas, que alguns autores chamam de 'alucinações'. Este artigo foca na problemática das fontes e referências, que o ChatGPT frequentemente não fornece e, em alguns casos, até falsifica. Com a crescente disseminação do uso da ferramenta, a questão da falta de fontes e ou referências pode se tornar ainda mais grave. Os usuários podem considerar o ChatGPT como um oráculo infalível, aumentando sua confiabilidade pelo simples hábito de uso. Nesse sentido, analisamos esse comportamento à luz do conceito de Duplo Clique, presente na obra 'Investigação sobre os modos de existência: Uma antropologia dos modernos', de Bruno Latour. Abordando a ignorância das mediações durante o processo de conversação (saídas) com a IA e seus possíveis efeitos para a sociedade, caso acreditar cegamente em saídas com falta de referências (um duplo clique) se torne um hábito.