Report 2020: una prima ricognizione delle responsabilità in materia di tecnologie emergenti.

Dando seguito alla Risoluzione del Parlamento Europeo del 2017, nel novembre 2019 il gruppo New Technologies formation del gruppo di esperti istituito presso la Commissione europea ha predisposto il Report Liability for Artificial Intelligence (and other emerging technologies). Il documento ha cercato di dare una risposta che affrontasse tutte le problematiche poste dal Parlamento e ridefinisse in maniera organica la materia della responsabilità in materia di intelligenza artificiale.

Svariati interrogativi erano emersi:

E’ necessario dotare l’agente (robot o intelligenza artificiale) di personalità giuridica? Cosa accade all’onere della prova in caso di danno provocato da intelligenza artificiale o da tecnologie emergenti? ​Quale tipo di responsabilità bisognerà applicare per la tutela del danneggiato? Così come indicato dal Parlamento nella risoluzione del 2017, sarebbe necessario prevedere sistemi di assicurazione obbligatoria in caso di danni cagionati da robot, IA o tecnologie emergenti? Alla luce della molteplicità dei soggetti – umani e non – sarebbe necessario ridisegnare i normali canoni della diligenza e della responsabilità, anche gradandoli fra i potenziali responsabili?

Per dare una risposta a questi molteplici quesiti la Commissione ha analizzato le caratteristiche delle nuove tecnologie in esame e poi procedere ad esaminare – dettagliatamente – le singole soluzioni giuridiche fornite.

Si riepilogano i punti principali del lavoro Commissione:

-   Una persona che utilizza una tecnologia consentita che comporta tuttavia un aumento del rischio di danni agli altri (ad esempio robot basati sull'intelligenza artificiale negli spazi pubblici) dovrebbe essere soggetta a una responsabilità oggettiva per i danni derivanti dal suo funzionamento.
-    Nelle situazioni in cui un fornitore di servizi che garantisce il quadro tecnico necessario ha un grado di controllo più elevato rispetto al proprietario o all'utente di un prodotto o servizio effettivo dotato di AI, la responsabilità dovrebbe ricadere (almeno in via prevalente) su chi gestisce principalmente la tecnologia.
-    Una persona che utilizza una tecnologia che non presenta un rischio maggiore di danno per gli altri dovrebbe comunque essere tenuta a rispettare i doveri per selezionare, utilizzare, monitorare e mantenere correttamente la tecnologia in uso e - in mancanza - dovrebbe essere responsabile per la violazione di tali doveri in caso di colpa.
-    Una persona che utilizza una tecnologia che ha un certo grado di autonomia non dovrebbe essere meno responsabile per il conseguente danno che se tale danno fosse stato causato da un ausiliario umano (cd. responsabilità vicaria).
-    I produttori di prodotti o contenuti digitali che incorporano la tecnologia digitale emergente dovrebbero essere responsabili per i danni causati da difetti nei loro prodotti, anche se il difetto è stato causato dalle modifiche apportate al prodotto sotto il controllo del produttore dopo che è stato immesso sul mercato.
-    Per le situazioni che espongono terzi a un aumentato rischio di danno, l'assicurazione obbligatoria per la responsabilità potrebbe offrire ai danneggiati un migliore accesso al risarcimento e proteggere potenziali autori di fatti illeciti dal rischio di responsabilità.
-    Laddove una particolare tecnologia accresca le difficoltà (oltre a quello che ci si può ragionevolmente aspettare) nel provare l'esistenza di responsabilità, i danneggiati dovrebbero avere il diritto alla facilitazione della prova.
-    Le tecnologie digitali emergenti dovrebbero essere dotate di funzionalità di registrazione e la mancata registrazione, o di fornire un accesso ragionevole ai dati registrati, dovrebbe comportare un'inversione dell'onere della prova al fine di non andare a danno del danneggiato.
-    La distruzione dei dati del danneggiato dovrebbe essere considerata come un danno, risarcibile in condizioni specifiche.
-    Non è necessario conferire personalità giuridica ai dispositivi o ai sistemi autonomi, in quanto i danni che questi possono causare possono e devono essere imputabili a persone o corpi esistenti.

Quindi in sintesi il report ha previsto:

1.    Responsabilità dei robot
Secondo il gruppo di lavoro non è necessario conferire personalità giuridica ai dispositivi o ai sistemi autonomi (punto 8). La responsabilità dovrebbe ricadere sulla persona che ha il controllo del rischio connesso con il funzionamento delle tecnologie digitali emergenti e che beneficia del loro funzionamento (operatore) (punto 10).

2.    Responsabilità vicaria
Esattamente come nel caso di ausiliari umani, il suggerimento del gruppo di esperti è di prevedere la stessa forma di responsabilità anche per coloro che utilizzano tecnologie parzialmente autonome.

3.    Responsabilità oggettiva
Ai sensi del punto 9 del report, la responsabilità oggettiva è una risposta adeguata ai rischi posti dalle tecnologie digitali emergenti, se, ad esempio, esse sono utilizzate in ambienti pubblici e possono tipicamente causare danni significativi.

4.    Difetto di prodotto digitale
Le tecnologie digitali emergenti mettono alla prova l'attuale regime di responsabilità da prodotto difettoso sotto diversi aspetti per quanto riguarda le nozioni di prodotto, difetto e produttore.
Si deve perciò concludere che nel caso di un difetto del prodotto, il produttore può essere il destinatario appropriato di azioni per risarcimento a prescindere che il prodotto sia un bene tangibile o digitale. I produttori di prodotti o contenuti digitali che incorporano la tecnologia digitale emergente dovrebbero essere responsabili per i danni causati da difetti nei loro prodotti, anche se il difetto è stato causato dalle modifiche apportate al prodotto sotto il loro controllo dopo che è stato immesso sul mercato.

In data 20.10.2020 il Parlamento Europeo ha emesso tre proposte per disciplinare etica, responsabilità civile e proprietà intellettuale. In particolare con l’atto P9_TA-PROV(2020)0276 denominato “Regime di responsabilità civile per l'intelligenza artificiale - Risoluzione del Parlamento europeo del 20 ottobre 2020 recante raccomandazioni alla Commissione su un regime di responsabilità civile per l'intelligenza artificiale (2020/2014(INL))”, il Parlamento chiarisce le linee guida sulle quali deve muoversi la responsabilità dei sistemi di intelligenza artificiali.

In primo luogo viene chiarito che la UE intende tutelare chiunque subisca i danni legati all’AI e, tenuto conto che la disciplina delle controversie potrebbe essere per sua natura transfrontaliera, per far questo intende armonizzare le normative dei differenti Stati. La tutela avverrà attraverso lo strumento del regolamento. Il Parlamento ritiene che non sia necessaria una revisione completa dei regimi di responsabilità correttamente funzionanti e che occorrano adeguamenti specifici e coordinati dei regimi di responsabilità per evitare una situazione in cui le persone che subiscono pregiudizi o danni al patrimonio non ottengano un risarcimento.

Viene esclusa la personalità giuridica ai sistemi di AI e (seppure venga indicato che la peculiare struttura dei predetti sistemi potrebbe rendere impossibile individuare un eventuale responsabile) il Parlamento ritiene si debbano ritenere responsabili le varie persone nella catena del valore che creano il sistema di IA, ne eseguono la manutenzione o ne controllano i rischi associati. Pur ritenendo che la direttiva sulla responsabilità per danno da prodotti difettosi abbia dimostrato, per oltre trent'anni, di essere un mezzo efficace per ottenere un risarcimento per i danni cagionati da un prodotto difettoso, il Parlamento ritiene ciononostante che debba essere rivista per adattarla al mondo digitale e per affrontare le sfide poste dalle tecnologie digitali emergenti.

Il Parlamento europeo ritiene che il vigente diritto degli Stati membri in materia di responsabilità civile per colpa offra, il più delle volte, un livello sufficiente di tutela alle persone che subiscono danni a seguito dell'interferenza di un terzo, quale un hacker, o danni patrimoniali da parte di tale terzo, in quanto l'interferenza costituisce sistematicamente un'azione basata sulla colpa; osserva che solo per casi specifici, inclusi quelli in cui il terzo sia irrintracciabile o insolvibile, appaiono necessarie ulteriori norme in materia di responsabilità per integrare il diritto nazionale in materia di responsabilità civile.

Il Parlamento ritiene che dunque sia responsabile l’operatore (inteso come operatore front-end che back-end), per il semplice fatto che tale persona sta controllando un rischio associato al sistema di IA.
In questo senso la responsabilità dell’operatore dovrebbe riguardare tutti i sistemi di IA.

In caso che più operatori agiscano insieme, si è in presenza di una responsabilità in solido.

Il Parlamento ritiene che il tipo di sistema di IA su cui l'operatore esercita il controllo è un fattore determinante con riferimento alla responsabilità; osserva che un sistema di IA che comporta un rischio intrinseco elevato e che agisce in modo autonomo è potenzialmente molto più pericoloso per il pubblico; ritiene che, sulla base delle sfide giuridiche che i sistemi di IA pongono per i regimi di responsabilità civile esistenti, appare ragionevole istituire un regime comune di responsabilità oggettiva per tali sistemi di IA autonomi ad alto rischio (ovvero con un elevato potenziale di causare danni a una o più persone); sottolinea che tale approccio basato sul rischio, che potrebbe comprendere diversi livelli di rischio, dovrebbe basarsi su criteri chiari e su una definizione adeguata di alto rischio e garantire la certezza giuridica.

Il Parlamento raccomanda di indicare quelli che potrebbero essere considerati sistemi ad alto rischio.

In linea con i regimi di responsabilità oggettiva degli Stati membri, il regolamento proposto dovrebbe contemplare le violazioni di diritti importanti giuridicamente tutelati come il diritto alla vita, alla salute, all'integrità fisica e al patrimonio, e dovrebbe fissare gli importi e l'entità del risarcimento nonché i termini di prescrizione. Dovrebbe inoltre includere anche il danno non patrimoniale significativo che causi una perdita economica verificabile che oltrepassi una soglia armonizzata nel diritto dell'Unione in materia di responsabilità civile.

Il Parlamento ritiene che tutte le attività, i dispositivi o i processi guidati da sistemi di IA che possono provocare danni o pregiudizi, ma che non sono indicati nell'elenco contenuto nell'allegato al regolamento proposto, dovrebbero continuare a essere soggetti a un regime di responsabilità per colpa; è convinto che la persona interessata dovrebbe comunque poter far valere una presunzione di colpa dell'operatore, che dovrebbe potersi discolpare dimostrando di aver rispettato l'obbligo di diligenza.

A parere del Parlamento europeo, un sistema di IA che non sia ancora stato valutato dalla Commissione e dal comitato permanente di nuova costituzione e che di conseguenza non sia ancora stato classificato come ad alto rischio e non sia stato incluso nell'allegato al regolamento proposto, dovrebbe essere soggetto alla responsabilità oggettiva qualora abbia causato incidenti ripetuti che producono gravi danni o pregiudizi.

Il Parlamento chiede alla Commissione di valutare la necessità di disposizioni giuridiche in materia di contratti a livello di Unione, al fine di evitare clausole contrattuali di esclusione della responsabilità, incluse le relazioni tra diverse imprese e tra imprese e amministrazioni. Il Parlamento considera la copertura della responsabilità civile uno dei fattori principali che definiscono il successo delle nuove tecnologie e dei nuovi prodotti e servizi; osserva che un'idonea copertura della responsabilità è essenziale anche per garantire al pubblico di potersi fidare della nuova tecnologia nonostante la possibilità di subire danni o di affrontare azioni legali intentate dalle persone interessate; prende atto al contempo del fatto che tale sistema di regolamentazione è incentrato sulla necessità di sfruttare e valorizzare i vantaggi dei sistemi di IA, ponendo in essere al tempo stesso solide misure di sicurezza.

Per i sistemi ad alto rischio è obbligatoria la copertura assicurativa.

Quindi, sinteticamente, in data 20.10.2020 il Parlamento Europeo ha stabilito che:

1. le norme regolamentari dovrebbero riguardare il regime di responsabilità civile dell’operatore (sia front-end che back end) di un sistema di IA, giustificata dal fatto sia il soggetto che controlla un rischio associato al sistema di IA, in modo analogo al proprietario di un'automobile; e dal fatto che, vista la complessità e la connettività di un sistema di IA, l'operatore sarà, in molti casi, il primo punto di contatto visibile per la persona interessata.

2. le norme dovrebbero contemplare tutte le attività dei sistemi di IA, a prescindere da dove esse si svolgono e dal fatto che avvengano fisicamente o virtualmente; le attività in spazi pubblici che espongono a un rischio molte persone costituiscono casi che richiedono ulteriori riflessioni. osserva che quando si concretizza il danno o il pregiudizio, tali persone potrebbero far valere unicamente la responsabilità per colpa e potrebbero avere difficoltà a dimostrare la colpa dell'operatore del sistema di IA e che pertanto le corrispondenti azioni per responsabilità civile potrebbero avere esito negativo.

3. la responsabilità in solido in caso di più operatori, pur avendo il diritto di rivalersi reciprocamente su base proporzionale; e che le proporzioni della responsabilità dovrebbero essere determinate dai rispettivi gradi di controllo che gli operatori hanno esercitato sul rischio connesso all'operatività e al funzionamento del sistema di IA; ritiene che la tracciabilità dei prodotti dovrebbe essere migliorata al fine di individuare meglio i soggetti coinvolti nelle diverse fasi.

4. Le norme in materia di responsabilità potrebbero essere modulate in relazione ai diversi tipi di rischi, a partire da una responsabilità oggettiva per le attività ad Alto rischio, adeguatamente dettagliate in un allegato adottato dalla Commissione Ue a aggiornato su base semestrale.

5. La previsione a livello Ue di disposizioni contrattuali comuni potrebbe poi impedire clausole di esclusione di responsabilità.

6. Polizze di assicurazione. È un tema delicato, perché adeguate assicurazioni potrebbe alimentare la fiducia intorno all’utilizzo di AI ma nel contempo coprirne i rischi è al momento oneroso. Il Parlamento propende per la previsione di un obbligo di copertura assicurativa per i sistemi ad alto rischio e invita la commissione e le società di assicurazione a collaborare per individuare modelli innovativi per creare polizze adeguate alla dinamicità del settore.

Articolo a cura di Pierluigi d'Agostino,

Avvocato presso il Foro di Roma e partner per la città di Roma del network professionale Buonaguidi & Partners.