The Bartleby Machine: exploring creative disobedience in computers

• Bruno Caldas Vianna ^[1]
  1. [1] University of the Arts

     University of the Arts

     City of Philadelphia, Estados Unidos

     
• Localización: Artnodes: revista de arte, ciencia y tecnología, ISSN-e 1695-5951, Nº. 32, 2023 (Ejemplar dedicado a: Posibles III), págs. 1-10
• Idioma: inglés
• Títulos paralelos:
  • La Màquina de Bartleby: explorar la desobediència creativa en els ordinadors
  • La Máquina de Bartleby: explorar la desobediencia creativa en los ordenadores
• Enlaces
  • Texto completo (pdf)
• Resumen
  • español

    a idea de máquinas desobedientes se desarrolla desde la perspectiva de los desarrollos históricos y actuales en inteligen-cia artificial (IA). La desobediencia se utiliza a menudo en arte y tecnología como tema y herramienta. Más allá de eso, la desobediencia se presenta como una de las habilidades indispensables para la inteligencia natural. El artículo no profundiza en el uso de las IAs como herramienta de ayuda para la creación. En su lugar, especula si las IA permitirán la aparición de un creador artificial independiente y autónomo. Se presentan diferentes enfoques de IAs, desde el simbolismo hasta el emergismo. Se describen las ventajas de los modelos de aprendizaje automático, así como sus limitaciones, como la inca-pacidad de generar avances fuera de sus datos de entrenamiento, su determinismo y la incapacidad de usar analogías para resolver problemas inesperados. Otras habilidades humanas (o biológicas) que faltan, presentes en el arte, son la emoción, la producción sin objetivos y la agencia, lo que es un problema incluso cuando se estudia la voluntad humana. Los límites del formalismo computacional son como los límites del razonamiento matemático: siempre requieren algunas reglas exter-nas, o axiomas probados, como la prueba de Gödel. La teoría de la conciencia de Hofsdtader propone una forma de conciliar el hecho de que la creatividad humana también se basa en reglas biológicas cerradas y fijas. Por último, se argumenta que una máquina no puede ser creativa a menos que también pueda desobedecer. Sin embargo, los ordenadores deben seguir un conjunto de instrucciones o dejan de funcionar, es decir, la definición de una máquina de Turing. Por lo tanto, debemos enfrentarnos a la paradoja de querer sistemas obedientes, con las limitaciones de las máquinas simbólicas, al tiempo que exigimos resultados más autónomos y creativos. Es primordial explorar los comportamientos erróneos algorítmicos que podrían eludir esta paradoja para el desarrollo adicional de IAs para las artes y la sociedad en general.

  • English

    The idea of disobedient machines is developed from the perspective of the historical and current developments in artificial intelligence (AI). Disobedience is often used in arts and technology as both a theme and a tool. Beyond that, misbehaviour is presented as one of the skills that is indispensable for natural intelligence. The article doesn’t delve into the use of AIs as an assistive tool for creation. Instead, it speculates if AIs will afford the emergence of an independent, autonomous artificial cre-ator. Different approaches to AIs are presented, from symbolism to emergism. The affordances of machine learning models are described, as well as their limitations like the incapacity to generate breakthroughs outside of their training data, their determinism, and the inability to use analogies to solve unseen problems. Other missing human (or biological) skills present in art are emotion, goal-less production, and agency, which is a problem even when human volition is studied. The limits of computational formalism are like the limits in mathematical reasoning – it always requires some external rules, or axioms demonstrated, like Gödel’s proof. Hofsdtader’s theory of consciousness proposes a way to conciliate the fact that human creativity is also based on closed, fixed biological rules. Finally, it is argued that a machine cannot be creative unless it is also able to misbehave. However, computers must follow a set of instructions or they stop functioning – that is the definition of a Turing machine. Hence, we must face the paradox of wanting well-behaved systems, with the limitations of symbolic machines, while at the same time demanding more autonomous, creative outputs. It is paramount to explore algorithmic misbehaviours that could circumvent this paradox for further development of AIs for the arts and society in general.

  • català

    La idea de màquines desobedients es desenvolupa des de la perspectiva dels desenvolupaments històrics i actuals en intel·ligència artificial (IA). La desobediència s’utilitza sovint en art i tecnologia com a tema i eina. Més enllà d’això, la desobediència es presenta com una de les habilitats indispensables per la intel·ligència natural. L’article no aprofundeix en l’ús de les IA com a eina d’ajuda per la creació. En el seu lloc, especula si les IA permetran l’aparició d’un creador artificial independent i autònom. Es presenten diferents enfocaments de les IA, des del simbolisme fins a l’emergisme. Es descriuen els avantatges dels models d’aprenentatge automàtic, així com les seves limitacions, com ara la incapacitat de generar avanços fora de les seves dades d’entrenament, el seu determinisme i la incapacitat d’usar analogies per resoldre problemes inesperats. Altres habilitats humanes (o biològiques) que falten, presents en l’art, són l’emoció, la producció sense objectius i l’agència, la qual cosa és un problema fins i tot quan s’estudia la voluntat humana. Els límits del formalisme computacional són com els límits del raonament matemàtic: sempre requereixen algunes regles externes, o axiomes provats, com la prova de Gödel. La teoria de la consciència d’Hofsdtader proposa una manera de conciliar el fet que la creativitat humana també es basa en regles biològiques tancades i fixes. Finalment, s’argumenta que una màquina no pot ser creativa tret que també pugui desobeir. No obstant això, els ordinadors han de seguir un conjunt d’instruccions o deixen de funcionar, és a dir, la definició d’una màquina de Turing. Per tant, hem d’enfrontar-nos a la paradoxa de voler sistemes obedients, amb les limitacions de les màquines simbòliques, al mateix temps que exigim resultats més autònoms i creatius. És primordial explorar els comportaments erronis algorítmics que podrien eludir aquesta paradoxa per al desenvolupament addicional de IAs per les arts i la societat en general.