Resumen de A favor de los robots desobedientes. No hemos de tener a los máquinas rebeldes. Un amo retorcido o una orden malinterpretada representan un amenaza mucho mayor

Gordon Biggs, Matthias Scheutz

• A medida que aumenta el número y la autonomía de los robots, la falibilidad humana supone un peligro inmediato mucho mayor que la aparición de máquinas superinteligentes.

  Para evitar descuidos y abusos, los expertos intentan diseñar robots capaces de rechazar una orden humana si ello puede poner en peligro a otros humanos, el entorno o la propia máquina.

  Ciertos parámetros y mecanismos de razonamiento pueden ayudar a un robot a decidir si es posible y conveniente obedecer una orden concreta emitida por una persona.