La Carta etica europea sull'uso dell'intelligenza artificiale (AI) nei sistemi giudiziari
La Commissione europea per l'efficienza della giustizia (Cepej) del Consiglio d'Europa, ha adottato durante la sessione plenaria del 3-4 dicembre 2018 a Strasburgo, la prima "Carta etica europea sull'uso dell'intelligenza artificiale (IA) nei sistemi giudiziari e in ambiti connessi".
Per la prima volta a livello europeo e mondiale si stabiliscono cinque principi sostanziali e metodologici da applicare al trattamento automatizzato delle decisioni e dei dati giudiziari, sulla base di tecniche di IA.
L’obiettivo è che questi principi diventino un punto di riferimento per i professionisti del diritto, le istituzioni e gli attori politici che si trovano ad affrontare la sfida di integrare le nuove tecnologie basate sull' IA nelle politiche pubbliche o nel loro lavoro quotidiano.
La Carta si rivolge:
- alle imprese private (start-up attive sul mercato delle nuove tecnologie applicate ai servizi legali legal-techs)
- ai soggetti pubblici incaricati della progettazione e dell'implementazione di strumenti e servizi di IA in questo campo
- alle autorità pubbliche responsabili dell’elaborazione di strumenti legislativi o regolamentari, dello sviluppo, dell'audit o dell'uso di tali strumenti e servizi
- agli operatori del diritto.
La Commissione dà atto che l'uso di strumenti e servizi di IA nei sistemi giudiziari è volto a migliorare l'efficienza e la qualità della giustizia e merita di essere incoraggiato. Tuttavia, ciò deve avvenire in modo responsabile, dalla fase di progettazione fino all'applicazione pratica, nel rispetto dei diritti fondamentali sanciti dalla Convenzione europea dei diritti dell'uomo (Cedu) e dalla Convenzione n. 108 del Consiglio d'Europa sulla protezione dei dati personali (1).
A questi principi fondamentali si aggiungono quelli enunciati nella Carta.
- Il rispetto dei diritti umani e la non discriminazione. Il principio di non discriminazione è espressamente sancito dalla capacità di taluni trattamenti − in particolare in materia penale − di rivelare le discriminazioni esistenti aggregando o classificando i dati relativi a persone o gruppi di persone. Gli attori pubblici e privati devono pertanto garantire che tali applicazioni non riproducano o aggravino tali discriminazioni e non portino ad analisi o pratiche deterministiche che non tengano cioè conto delle situazioni particolari.
- Il principio di qualità e sicurezza legato alla metodologia di analisi e al trattamento automatizzato delle decisioni giudiziarie: i dati trattati tramite l'apprendimento automatico dovrebbero provenire da originali certificati e la loro integrità dovrebbe essere garantita in tutte le fasi del trattamento. Alla fase di elaborazione e di applicazione delle soluzioni proposte dovrebbero partecipare gruppi multidisciplinari, composti da giudici, ricercatori in scienze sociali e informatici.
- Il principio della trasparenza, dell’imparzialità e dell’equità delle metodologie e delle tecniche utilizzate nel trattamento delle decisioni giudiziarie. L'accento è posto sulla possibilità per le autorità o gli esperti indipendenti di effettuare audit esterni mediante l'accessibilità e la comprensione delle tecniche di trattamento dei dati. Viene inoltre incoraggiato un sistema di certificazione, da rinnovare regolarmente.
- Il principio del controllo dell’utente, e della preminenza della sua libertà di scelta. In particolare, il giudice dovrebbe poter controllare in qualsiasi momento le decisioni giudiziarie e i dati che sono stati utilizzati per produrre un risultato e continuare ad avere la possibilità di discostarsi dalle soluzioni proposte dall’IA, tenendo conto delle specificità del caso in questione. Ogni utente dovrebbe essere informato, in un linguaggio chiaro e comprensibile, della natura vincolante o non vincolante delle soluzioni proposte dagli strumenti di IA, delle diverse opzioni disponibili e del loro diritto all’assistenza di un avvocato e al ricorso a un tribunale.
La Commissione è a disposizione degli Stati membri, delle istituzioni giudiziarie e dei rappresentanti degli operatori del diritto per assisterli nell'attuazione dei principi della Carta.
Questi principi, per coloro che attualmente stanno studiando o sperimentando le diverse applicazioni di IA nel sistema giudiziario o nei tribunali, costituiscono un'importante base di confronto per valutare le caratteristiche dei progetti.
