Seguici anche su

15 marzo 2017

Intelligenza artificiale, il giudice algoritmo è meno razzista

Un software per correggere le decisioni prese dai magistrati nei tribunali. Un modo per risparmiare risorse. E non tenere conto del colore della pelle

Gabriele De Palma

Dal nuovo numero di pagina99 in edicola dall’11 marzo e in edizione digitale

Gli imputati in attesa di giudizio rappresentano un problema radicato in quasi tutte le giurisdizioni, soprattutto le più intasate e lente. Un problema che riguarda la dignità dell’imputato stesso, i costi per la pubblica amministrazione e la sicurezza della comunità. Non sempre i giudici prendono la decisione migliore quando si tratta di stabilire se liberare o meno l’arrestato prima che si svolga il processo e si arrivi a un giudizio.

Forse l’intelligenza artificiale può aiutare: è quel che devono aver pensato negli uffici del National Bureau of Economic Research, quando hanno commissionato a ricercatori delle università di Stanford, Harvard, Cornell e dell’ateneo di Chicago di sviluppare un algoritmo in grado di ottimizzare una decisione tanto delicata come quella relativa alla libertà di una persona.

Il software, basato sul machine learning, analizza un grande quantitativo di dati per identificare dei modelli di comportamento in modo da poter poi orientare la decisione verso la migliore scelta possibile. I dati presi in considerazione sono stati in prima istanza quelli di tutti gli imputati detenuti nelle carceri della città di New York tra il 2009 e il 2013.

Quante volte un giudice ha rilasciato un imputato che poi si è dato alla fuga e non si è presentato all’udienza? O che nel periodo di completamento delle indagini ha commesso lo stesso o altri crimini? E quante volte è stato trattenuto agli arresti chi invece non avrebbe, presumibilmente, arrecato danno alla società e la cui detenzione è costata circa 100 dollari di denaro pubblico al giorno, oltre a una sofferenza del tutto gratuita a una persona?

Il software, apprendendo dall’esperienza pregressa, ha prodotto una propria classificazione del rischio di rilasciare un imputato e in base a questa ha formulato delle proprie decisioni in merito alla custodia cautelare. I risultati sarebbero notevoli: mantenendo invariato il numero di detenuti, e quindi invariata la spesa a carico della pubblica amministrazione, ma modificandone la qualità, il numero di reati diminuirebbe di circa il 25%. Oppure, si può mantenere lo stesso numero di reati liberando però più del 40% di imputati in attesa di giudizio, e riducendo in tal modo, sensibilmente, la spesa pubblica. È probabilmente questa ultima soluzione quella caldeggiata dal National Bureau of Economic Research.

Negli Stati Uniti quattro detenuti su dieci – quota molto simile si registra in Italia, in base agli ultimi dati Istat sulla popolazione carceraria – sono in attesa di giudizio, il risparmio sarebbe considerevole. Il software è stato applicato anche alle decisioni sulla libertà degli imputati di altre quaranta grandi città americane, dando risultati analoghi. Segno che le porte delle carceri potrebbero aprirsi molto più spesso, restituendo la libertà a molti e abbattendo i costi per la cosa pubblica.

Non solo: seguendo i suggerimenti dell’algoritmo, i giudici avrebbero dovuto rilasciare molti più afroamericani e ispanici di quanto non sia realmente accaduto. Tra i dati degli imputati inseriti nel software, infatti, non c’erano quelli relativi alla razza: il “giudice artificiale” ha deciso semplicemente in base alla loro fedina penale e alla loro storia giudiziaria. E in molti casi ha stabilito che afroamericani e ispanici dovessero tornare liberi. Un giudice che ci vede meglio, anche se non ha occhi umani.

[Foto in apertura di William Widmer / Redux / Contrasto]

Altri articoli che potrebbero interessarti