Resumen de AI and criminal liability. Algorithmic error and human negligence in the context of the European regulation
- español
Basándose en las intervenciones europeas en el ámbito de la Inteligencia Artificial (en particular, la Propuesta de Reglamento de abril de 2021 (AI Act)), el artículo reflexiona sobre la división de la responsabilidad entre el productor y el usuario de sistemas de IA cuando se produce un delito imprudente debido a un error del algoritmo, aquí definido como "negligencia artificial". Se argumenta que la responsabilidad del productor podría fundarse en el incumplimiento de las normas establecidas por estándares específicos de conducta (“negligencia específica") o mediante el estándar de la persona razonable ("negligencia general"). Para ello, se aporta una noción de "diligencia artificial", en la que se sostiene que el estándar del productor razonable tendrá como modelo el producto que cumple las características especificadas por la ley y que, al mismo tiempo, es seguro. A continuación, discutiendo la hipótesis de la negligencia artificial, se propone una distinción entre los casos de error que eran previsibles desde una perspectiva ex ante, y aquellos que eran imprevisibles, con el fin de abordar la responsabilidad del productor y definir su deber de diligencia. Por parte del usuario, se investigan los deberes de información, vigilancia e intervención, para concluir que el cumplimiento del deber de "vigilancia humana" en la apreciación de la negligencia debe constatarse in concreto.
- English
Drawing on European interventions in the field of Artificial Intelligence (in particular the Proposal for a Regulation of April 2021 (AI Act)), the article reflects on the apportionment of responsibilities between the manufacturer and the user of AI systems when a negligence offence occurs due to an error of the algorithm, defined here as “artificial negligence”. It is argued that the manufacturer’s liability could be assessed for noncompliance with rules established by written norms (case of “specific negligence”) or through the reasonable man standard (case of “generic negligence”). For this purpose, a notion of “artificial diligence” is given since it is argued that the reasonable manufacturer parameter will be modelled on the product that complies with the characteristics specified by law and is safe at the same time. Then, discussing the hypothesis of artificial negligence, a distinction between cases of errors that are ex ante foreseeable and unforeseeable is offered in order to address the manufacturer’s liability and to define his duty of care. As far as the user is concerned, the duty of information, vigilance and to intervene are investigated, to conclude that compliance with the duty of “human oversight” in the assessment of negligence should be ascertained in concreto, in order to evaluate whether to exclude culpability or even the objective dimension of negligence, according to the reasonable man standard.
- italiano
Traendo spunto dagli interventi europei in tema di Intelligenza Artificiale (in particolare la Proposta di Regolamento dell’aprile 2021, (AI Act)), il contributo offre una riflessione sulla riparto delle responsabilità tra il produttore e l’utente di sistemi di IA, allorché sia commesso un reato colposo di evento a causa di un errore dell’algoritmo, ipotesi qui definita come “negligenza artificiale”. Si sostiene che la responsabilità del produttore può essere fondata sull’inosservanza di regole scritte (ipotesi di colpa specifica) o stabilita attraverso il parametro del produttore modello (ipotesi di colpa generica). A tal fine, viene fornita una nozione di “diligenza artificiale”, in quanto si sostiene che il parametro del produttore modello sarà calibrato sulle caratteristiche del prodotto che rispetta i requisiti prescritti dalla legge ed è allo stesso tempo sicuro. In seguito, discutendo l'ipotesi di negligenza artificiale, si propone una distinzione tra casi di errori ex ante prevedibili e imprevedibili, al fine di affrontare la responsabilità del produttore e definire il contenuto del suo dovere di diligenza. Quanto alla posizione dell’utente, si indagano i doveri di informazione, vigilanza e intervento, per concludere che l’adempimento del dovere di “sorveglianza umana” nella valutazione della responsabilità colposa deve essere accertato in concreto, al fine di valutare l’opportunità di escludere la colpevolezza o anche la dimensione oggettiva della colpa, secondo lo standard dell’agente modello.
