Intelligenza artificiale e diritto penale: di chi è la responsabilità quando un algoritmo causa un danno?

Secondo la legge olandese ed europea, un algoritmo non può essere ritenuto penalmente responsabile, nemmeno parzialmente. L'articolo 51 del Codice penale olandese (Wetboek van Strafrecht, Sr) riconosce come autori del reato solo persone fisiche e giuridiche, quindi la vera questione è quale persona o azienda sia responsabile di ciò che ha fatto il sistema di intelligenza artificiale.

Il diritto penale olandese risponde già a questa domanda attraverso il principio di responsabilità funzionale (functioneel daderschap) e la responsabilità penale delle imprese. Questo articolo spiega come tali principi si applichino all'intelligenza artificiale, come l'Atto UE sull'IA definisca gli standard di diligenza, come l'output algoritmico venga utilizzato come prova e come si configuri un programma di difesa e conformità. Per l'aspetto relativo alla catena di fornitura, si veda il nostro articolo correlato su chi è responsabile quando una macchina commette un reato.

Perché un algoritmo non può essere sospettato?

Un reato penale richiede una condotta da parte di un autore che può essere biasimato, e un sistema di intelligenza artificiale non ha volontà e non può essere punito. L'articolo 51(1) Sr prevede che i reati possono essere commessi da persone fisiche e persone giuridiche; il software non è né l'una né l'altra.

Sanzioni come la reclusione, una multa o una pena alternativa al carcere non possono essere imposte a un modello. Eliminare un modello punisce il suo proprietario, non il sistema. Pertanto, tutto ciò che il diritto penale si propone di ottenere in seguito ai danni causati dall'intelligenza artificiale deve essere raggiunto attraverso le persone e le organizzazioni che ne sono alla base.

Chi è responsabile in questo caso?

L'operatore, l'azienda e la sua dirigenza. Il diritto penale olandese prevede due meccanismi per ritenere qualcuno responsabile di una condotta non fisicamente compiuta, ed entrambi si applicano all'IA senza modifiche.

Perpetrazione funzionale

Secondo il criterio formulato dalla Corte Suprema (Hoge Raad) nella sentenza IJzerdraad, una persona è considerata l'autore materiale del reato se aveva il potere di decidere se la condotta avesse luogo e l'avesse accettata, oppure se accettava abitualmente tale condotta.

Per l'IA, il potere di smaltimento è solitamente facile da dimostrare: l'operatore può configurare, riaddestrare e spegnere il sistema. L'accettazione è determinante. Le prove riguardano ciò che l'operatore sapeva in merito alle modalità di guasto, ciò che i test e gli incidenti precedenti hanno dimostrato e cosa è stato fatto al riguardo. È sufficiente accettare consapevolmente un rischio considerevole; questo è lo standard olandese per l'intento condizionale (voorwaardelijk opzet).

Responsabilità aziendale e leadership di fatto

Qualora l'operatore sia una società, si applica l'articolo 51 Sr. Nella sentenza Drijfmest (ECLI:NL:HR:2003:AF7938), la Corte Suprema ha stabilito che una condotta può essere attribuita a una persona giuridica se si è verificata nella sua sfera di competenza. Gli indicatori sono che la condotta sia stata compiuta da qualcuno che lavora per la società, che rientri nella sua normale attività, che le abbia arrecato beneficio e che la società potesse controllarla e l'abbia accettata, anche omettendo di adottare la dovuta diligenza. Un sistema di intelligenza artificiale utilizzato per l'attività della società soddisfa la maggior parte di questi indicatori.

L'articolo 51(2) Sr consente anche di perseguire coloro che hanno dato l'ordine o che di fatto hanno guidato il reato (feitelijk leidinggeven). Nella sua sentenza del 26 aprile 2016 (ECLI:NL:HR:2016:733), la Corte Suprema ha stabilito che una posizione formale non è né richiesta né sufficiente. Un ruolo passivo può essere sufficiente quando la persona era in grado e obbligata a impedire la condotta e ha almeno accettato consapevolmente la considerevole probabilità che essa si verificasse. In un caso di IA, la prova consiste nel fatto che la persona ha ricevuto il rapporto di validazione, chi ha approvato l'implementazione e chi ha accettato un tasso di errore noto.

Quali reati sono più probabili?

I procedimenti penali che coinvolgono sistemi automatizzati si basano solitamente sulla negligenza. Se un veicolo, una macchina o un dispositivo medico a guida autonoma causa la morte, il reato è quello di omicidio colposo ai sensi dell'articolo 307 Sr (fino a due anni di reclusione); per lesioni gravi, si applica l'articolo 308 Sr.

La discriminazione costituisce la seconda categoria. Discriminare le persone nell'esercizio di una carica, professione o attività commerciale per motivi quali razza, religione, credo, sesso o orientamento sessuale è un reato ai sensi dell'articolo 429quater Sr; la discriminazione intenzionale per motivi di razza è un reato ai sensi dell'articolo 137g Sr. Un modello che svantaggia sistematicamente un gruppo protetto può quindi configurarsi come reato. La nostra guida alla procedura penale nei Paesi Bassi spiega come si svolge un caso del genere.

In che modo la legge sull'intelligenza artificiale influisce sulla responsabilità penale?

La legge europea sull'intelligenza artificiale (Regolamento (UE) 2024/1689) non prevede reati penali, ma definisce gli obblighi di un fornitore o di un implementatore che agisca con la dovuta diligenza. Una violazione di tale norma costituisce negligenza; la conformità, al contrario, dimostra diligenza.

La legge classifica i sistemi in base al rischio. Alcune pratiche sono vietate, come l'assegnazione di punteggi sociali, l'estrazione non mirata di immagini facciali e il riconoscimento delle emozioni sul lavoro o nell'istruzione. I sistemi ad alto rischio includono i componenti di sicurezza di prodotti e utilizzi regolamentati come il reclutamento, la valutazione del credito, le forze dell'ordine, la migrazione e l'amministrazione della giustizia. I sistemi che interagiscono con le persone o generano contenuti sintetici sono soggetti a obblighi di trasparenza.

Fornitore o implementatore: qual è il tuo ruolo?

Un fornitore sviluppa un sistema e lo immette sul mercato con il proprio nome; un implementatore utilizza un sistema in virtù della propria autorizzazione. I fornitori hanno gli obblighi di progettazione, gli implementatori i doveri di corretto utilizzo, supervisione umana e monitoraggio.

Un implementatore diventa un fornitore se appone il proprio nome su un sistema ad alto rischio, lo modifica sostanzialmente o ne cambia la finalità in modo che diventi ad alto rischio. Anche la messa a punto di un modello acquistato e il suo utilizzo per un nuovo scopo possono far superare tale soglia. In un'indagine penale, la stessa domanda si ripropone: chi aveva il potere di disporre del sistema? È fondamentale documentare i ruoli per iscritto e nel contratto.

Quali sono già applicabili?

I divieti, l'obbligo di alfabetizzazione digitale in materia di IA, le norme per i modelli di IA di uso generale e gli obblighi di trasparenza di cui all'articolo 50 sono già in vigore. Il regolamento omnibus digitale (Regolamento (UE) 2026/1744) ha rinviato gli obblighi relativi ai sistemi ad alto rischio. La proposta di direttiva sulla responsabilità in materia di IA è stata ritirata, pertanto la responsabilità civile per i danni derivanti dall'IA rimane disciplinata dal diritto olandese in materia di responsabilità civile e da prodotto.

Le sanzioni previste dalla legge sono di natura amministrativa: fino a 35 milioni di euro o al 7% del fatturato annuo mondiale per le pratiche vietate, con limiti inferiori per altre violazioni. Nei Paesi Bassi, la supervisione è coordinata dall'Autorità olandese per la protezione dei dati (Autoriteit Persoonsgegevens) e dall'Autorità olandese per le infrastrutture digitali (Rijksinspectie Digitale Infrastructuur). Consultate i nostri articoli sulle pratiche vietate in materia di IA , sui sistemi di IA ad alto rischio e la nostra panoramica sulla legge UE sull'IA.

Un pubblico ministero utilizza la legge come una lista di controllo. Se chi implementa un sistema utilizza uno strumento di screening senza verificare la presenza di distorsioni nei dati di addestramento e senza la necessaria supervisione umana, la violazione viene documentata e l'accettazione del sistema deriva dalla decisione di procedere comunque all'implementazione. Al contrario, un'azienda in grado di produrre la propria valutazione del rischio, i risultati della validazione, il protocollo di supervisione e il registro degli incidenti ha predisposto la propria difesa in anticipo.

In che modo l'output algoritmico viene utilizzato come prova?

I risultati degli algoritmi, come le corrispondenze nel riconoscimento facciale, il riconoscimento delle targhe o i punteggi di rischio di frode, non costituiscono una categoria di prova a sé stante. Ai sensi dell'articolo 339 del Codice di procedura penale (Wetboek van Strafvordering, Sv), le prove sono limitate a categorie predefinite, pertanto i risultati giungono al tribunale tramite documenti scritti, come un rapporto ufficiale di polizia, o tramite una perizia.

La difesa si basa su tre quesiti. Il metodo è stato validato e, in caso affermativo, da chi? In quali condizioni fallisce e tali condizioni erano presenti? E ​​la difesa può verificarlo, avendo accesso alle informazioni sui dati di addestramento, sui tassi di errore e sulla configurazione? Una corrispondenza presentata senza un tasso di errore o alcuna possibilità di verifica costituisce una prova debole e contestarla è una legittima difesa.

Il tribunale può nominare un esperto di propria iniziativa o su richiesta della difesa. Qualora un metodo di intelligenza artificiale non rientri in alcun campo di competenza riconosciuto, ciò costituisce di per sé un argomento in merito all'affidabilità. Il nuovo Codice di procedura penale è stato adottato ed entrerà in vigore nel 2029; fino ad allora si applica la norma Sv vigente.

Che cosa aggiunge la normativa sulla protezione dei dati?

L'articolo 22 del GDPR conferisce a una persona il diritto di non essere sottoposta a una decisione basata unicamente sul trattamento automatizzato che la riguardi in modo significativo. Nell'ambito delle forze dell'ordine, la legge sulla protezione dei dati personali (Wet politiegegevens) recepisce le norme UE analoghe. Per un sospettato, ciò può rappresentare una via d'accesso a informazioni su un sistema; per un'azienda, il processo decisionale automatizzato senza una base giuridica costituisce una violazione a sé stante, che verrà valutata in aggiunta a qualsiasi accusa penale.

Come ci si difende in un caso in cui è coinvolta l'intelligenza artificiale?

La difesa basata sulla "scatola nera", secondo cui nessuno poteva sapere cosa avrebbe fatto il sistema, è più debole di quanto sembri. Il diritto penale olandese si interroga sulla capacità dell'imputato di decidere se la condotta si sia verificata e di accettare il rischio, non sulla sua precisa previsione dell'esito; l'impiego di un sistema non interpretabile, in grado di causare gravi danni, potrebbe di per sé equivalere all'accettazione di tale rischio.

Tre strategie difensive funzionano meglio, e tutte si basano su prove:

• Nessun controllo reale: Il sistema è stato acquistato come prodotto finito, configurato e gestito dal fornitore, e l'imputato non aveva né le informazioni né la possibilità di intervenire. Ciò sposta l'attenzione sul fornitore e dipende dal contratto e da quanto è stato segnalato.
• Diligenza dovuta: una valutazione documentata dei rischi, convalida prima dell'implementazione, supervisione umana da parte di una persona con l'autorità di intervenire, monitoraggio e intervento tempestivo in caso di incidenti.
• Causa: In una catena che va dai dati di addestramento al modello, alla decisione umana e al risultato, l'accusa deve dimostrare che la condotta dell'imputato ha causato il risultato.

Conservate tempestivamente i registri, le versioni dei modelli, le configurazioni e le segnalazioni di incidenti, poiché vengono regolarmente sovrascritti. Le normali garanzie si applicano integralmente, incluso il diritto al silenzio ai sensi dell'articolo 29 Sv; consultate il nostro articolo sul diritto al silenzio in materia penale . Per le frodi con strumenti automatizzati, consultate la nostra guida sulle frodi e i reati finanziari nei Paesi Bassi.

Cosa rivela la vicenda degli assegni familiari per l'infanzia?

Il caso Toeslagenaffaire (sovvenzioni per l'assistenza all'infanzia) dimostra come la selezione automatizzata del rischio, combinata con risultati non verificati, possa danneggiare migliaia di famiglie senza che nessuno venga ritenuto penalmente responsabile. L'Agenzia delle Entrate olandese (Belastingdienst) ha utilizzato un sistema di classificazione del rischio in cui la nazionalità giocava un ruolo; l'Autorità olandese per la protezione dei dati ha ritenuto il trattamento illecito e ha imposto una sanzione, portando alle dimissioni del governo nel gennaio 2021.

Tre fallimenti si traducono in responsabilità legali per qualsiasi organizzazione: decisioni non spiegabili e quindi non contestabili, supervisione umana esistente solo sulla carta e un'anomalia che inverte l'onere della prova nella pratica. Questa diffusione di responsabilità è esattamente ciò che la perpetrazione funzionale e l'articolo 51 Sr mirano a contrastare, ed è per questo che l'AI Act richiede una supervisione umana identificabile e la relativa documentazione.

Quali aspetti dovrebbe verificare un'azienda che intende implementare l'intelligenza artificiale?

La maggior parte delle attività di conformità previste dalla legge sull'intelligenza artificiale produce anche le prove necessarie in un'indagine penale.

• Avete elencato tutti i sistemi di intelligenza artificiale in uso, comprese le funzionalità integrate nei software acquistati, e li avete classificati in base alla legge sull'intelligenza artificiale?
• Per ogni sistema è stata designata una persona responsabile, con l'autorità di approvarne l'installazione e di disattivarlo?
• La supervisione umana è reale? Il revisore è in grado di comprendere il risultato e di rifiutarlo? Le modifiche apportate vengono registrate?
• Avete documentato i dati di formazione, i test, i tassi di errore noti e le decisioni prese in merito?
• È stata effettuata una valutazione d'impatto sulla protezione dei dati o sui diritti fondamentali, laddove richiesto?
• I vostri contratti vi forniscono la documentazione tecnica del fornitore e le notifiche relative agli incidenti?

Che cosa dovresti verificare in qualità di fornitore di sistemi di intelligenza artificiale?

In qualità di fornitore, hai gli obblighi di progettazione e sei il primo in lista quando chi si occupa dell'implementazione si rivolge ai livelli superiori della catena.

• Lo scopo previsto è specificato con precisione nelle istruzioni per l'uso?
• Disponete di documentazione tecnica sulle fonti dei dati, sui test di bias e sulle scelte di progettazione?
• Avete comunicato per iscritto agli addetti all'implementazione le limitazioni note e le condizioni di guasto?
• Avete una procedura per la segnalazione degli incidenti e per informare gli addetti all'implementazione di modifiche sostanziali?
• Il contratto specifica quale parte può modificare o riprogrammare il sistema?

E se l'intelligenza artificiale venisse utilizzata come strumento per commettere un reato?

Quindi il reato rimane semplicemente il reato; la tecnologia non modifica l'analisi giuridica. La frode con una voce clonata o un video sintetico di un regista è frode (oplichting) ai sensi dell'articolo 326 Sr; un documento falso generato è falsificazione ai sensi dell'articolo 225 Sr; spacciarsi per qualcuno utilizzando i suoi dati identificativi è furto d'identità ai sensi dell'articolo 231b Sr.

Dal 1° luglio 2024, data di entrata in vigore della legge sui reati sessuali (Wet seksuele misdrijven), la diffusione pubblica di immagini a sfondo sessuale di una persona, pur sapendo che ciò potrebbe nuocerle, è punibile ai sensi dell'articolo 254ba Sr; un'immagine generata automaticamente non è esclusa da tale punibilità, in quanto non registrata. Le molestie sistematiche tramite account automatizzati possono configurarsi come stalking ai sensi dell'articolo 285b Sr, perseguibile solo su denuncia. L'intelligenza artificiale modifica principalmente la portata e la difficoltà delle prove: ora è necessario dimostrare l'autenticità di audio e video. Si veda il nostro articolo sulla dimostrazione dell'inganno digitale nei Paesi Bassi.

Cosa possiamo fare per voi in materia di intelligenza artificiale e responsabilità penale?

I nostri team di diritto penale e diritto informatico collaborano a questi casi.

• Valutiamo la tua esposizione ai sensi dell'articolo 51 Sr e la perpetrazione funzionale per ogni sistema di intelligenza artificiale che utilizzi.
• Esaminiamo la vostra governance dell'IA, il protocollo di supervisione e la documentazione affinché possano fungere da prova di un'attenta gestione.
• Ci occupiamo della stesura e della negoziazione della ripartizione delle responsabilità tra fornitore e responsabile dell'implementazione.
• Contestiamo le prove algoritmiche e richiediamo l'accesso ai dati di validazione nei procedimenti penali.
• Assistiamo aziende e amministratori durante le indagini condotte dalla Procura della Repubblica e dagli organi di controllo.

Sintesi

• Un algoritmo non può essere considerato un reo; l'articolo 51 Sr si applica solo alle persone fisiche e giuridiche.
• Gli operatori sono responsabili per effetto della condotta illecita, le società secondo i criteri del Drijfmest, gli amministratori per effetto della leadership di fatto.
• La legge sull'intelligenza artificiale stabilisce lo standard di diligenza: una violazione è prova di negligenza, il rispetto di tale norma è prova di diligenza.
• L'output algoritmico entra in un caso penale tramite un rapporto di polizia o una perizia e può essere contestato in base alla validità e al tasso di errore.

Domande frequenti