Distopia digitale: come gli algoritmi puniscono i poveri.
Traduzione dall’articolo di Ed Pilkington per The Guardian
In un’esclusiva serie mondiale The Guardian mette a nudo la rivoluzione tecnologica che trasforma il sistema di welfare in tutto il mondo, penalizzando al contempo i più vulnerabili.
In tutto il mondo, dalla piccola città dell’Illinois negli Stati Uniti a Rochdale in Inghilterra, da Perth, in Australia, a Dumka nell’India settentrionale, è in atto una rivoluzione nel modo in cui i governi trattano i poveri.
Non puoi vederlo accadere e potresti non averne sentito parlare. È stato progettato da ingegneri e programmatori a porte chiuse, in posizioni governative sicure lontano dalla vista del pubblico.
Solo i matematici e gli informatici comprendono appieno il cambiamento del mare, alimentato com’è dall’intelligenza artificiale (AI), dagli algoritmi predittivi, dalla modellizzazione del rischio e dalla biometria. Ma se sei uno dei milioni di persone vulnerabili alla fine del radicale rimodellamento delle prestazioni sociali, sai che è reale e che le sue conseguenze possono essere serie – persino mortali.
The Guardian ha trascorso gli ultimi tre mesi a indagare su come miliardi vengono riversati in innovazioni di intelligenza artificiale che stanno riformando in modo esplosivo il modo in cui le persone a basso reddito interagiscono con lo stato. Insieme, i nostri giornalisti negli Stati Uniti, in Gran Bretagna, India e Australia hanno esplorato ciò che equivale alla nascita dello stato sociale digitale.
I loro dispacci rivelano come le indennità di disoccupazione, il sostegno all’infanzia, i sussidi per l’alloggio e gli alimenti e molto altro ancora vengano confusi online. Vaste somme vengono spese dai governi di tutti i mondi industrializzati e in via di sviluppo per automatizzare la povertà e nel processo, trasformando in numeri i bisogni dei cittadini vulnerabili, sostituendo il giudizio degli operatori del caso umano con il freddo, incruento processo decisionale delle macchine.
Nella sua forma più proibitiva, i giornalisti di Guardian dipingono un quadro di una distopia Dickensiana del 21° secolo che sta prendendo forma con una velocità vertiginosa. La politologa americana Virginia Eubanks ha una frase per questo: “Il povero digitale”.
Ascolta i governi e sentirai grandi promesse su come le nuove tecnologie trasformeranno la povertà in un’impresa nobile e benigna. Accelereranno i pagamenti delle prestazioni, aumenteranno l’efficienza e la trasparenza, ridurranno gli sprechi, risparmieranno denaro per i contribuenti, sradicano la fallibilità e il pregiudizio umani e assicurano che risorse limitate raggiungano le persone più bisognose. Ma così spesso, quelle promesse sono fallite.
In un momento in cui l’austerità domina il panorama politico, milioni di persone hanno avuto i loro benefici tagliati o fermati da programmi per computer che operano in modi che pochi sembrano in grado di controllare o addirittura comprendere. Gli errori sono diventati endemici, senza una via ovvia per le vittime degli errori di cercare un risarcimento.
Questa settimana, l’automazione della povertà sarà portata sulla scena mondiale. Philip Alston, un avvocato per i diritti umani che funge da cane da guardia delle Nazioni Unite sulla povertà estrema, presenterà all’assemblea generale delle Nazioni Unite a New York un rapporto rivoluzionario che suona l’allarme delle implicazioni per i diritti umani nella corsa alla digitalizzazione della protezione sociale.
L’analisi di Alston si basa in parte sui suoi studi ufficiali delle Nazioni Unite sulla povertà nel Regno Unito e negli Stati Uniti e in parte su osservazioni di governi, organizzazioni per i diritti umani ed esperti di oltre 34 paesi. È probabile che fornisca l’istantanea definitiva di dove si trova ora il mondo e dove sta andando, affrontando le molestie, il targeting e la punizione di coloro che vivono nella povera casa in rapida espansione.
“Gli errori sono diventati endemici, senza una via ovvia per le vittime di cercare un risarcimento”
In Illinois, il Guardian ha scoperto che i governi statali e federali hanno unito le forze per chiedere ai beneficiari di sussidi di rimborsare “pagamenti in eccesso” che in alcuni casi risalgono a 30 anni fa. Questo sistema di “debito zombi”, armato attraverso la tecnologia, sta provocando paura e difficoltà tra i più vulnerabili della società.
Come ha descritto un destinatario: “Devi ciò che hai mangiato”.
Nel Regno Unito, studiamo il sito governativo sicuro fuori Newcastle, dove milioni vengono spesi per lo sviluppo di una nuova generazione di robot assistenziali per sostituire gli umani. Le aziende private tra cui un gruppo di New York guidato dal primo miliardario bot del mondo, stanno potenziando un processo che ha generato un gergo completamente nuovo: “forza lavoro virtuale”, “processo decisionale aumentato”, “automazione dei processi robotici”.
Il governo si sta precipitando in avanti con la sua missione digitale nonostante il dolore già inflitto a milioni di britannici a basso reddito dall’agenda del paese “digitale per impostazione predefinita”. I richiedenti hanno parlato della fame, della sporcizia, della paura e del panico che stanno sopportando.
In Australia, dove il Guardian ha ampiamente riferito su robodebt, lo schema che è stato accusato di recuperare erroneamente i debiti storici attraverso un algoritmo difettoso, ora sveliamo che il governo ha aperto un nuovo fronte digitale: usare l’automazione per sospendere milioni di pagamenti sociali. I destinatari stanno trovando i loro soldi tagliati senza preavviso.
La storia più inquietante viene da Dumka in India. Qui, apprendiamo dell’impatto umano terrificante che ha colpito le famiglie a seguito di Aadhaar, un numero di identificazione univoco a 12 cifre che il governo indiano ha rilasciato a tutti i residenti nel più grande esperimento biometrico del mondo.
Motka Manjhi ha pagato il prezzo massimo quando il computer ha avuto problemi e la sua impronta digitale – la sua chiave in Aadhaar – non è stata riconosciuta. Le sue razioni di sussistenza furono interrotte, fu costretto a saltare i pasti e divenne magro. Il 22 maggio è crollato fuori casa e è morto. La sua famiglia è convinta che fosse la fame.
Le indagini del Guardian illuminano le caratteristiche condivise di questi nuovi sistemi, sia nei paesi in via di sviluppo che in quelli sviluppati, est o ovest. La somiglianza più evidente è che tutto ciò sta accadendo alla velocità della luce, con approcci hi-tech che spaziano tra servizi sociali, lavoro e pensioni, disabilità e salute, spesso con un dibattito pubblico o una responsabilità minimi.
All’interno di quella rivoluzione, l’elemento umano dello stato sociale viene diluito. Invece di parlare con un operatore del caso che valuta personalmente le tue esigenze, ora sei canalizzato online dove l’analisi predittiva ti assegnerà un punteggio di rischio futuro e un algoritmo deciderà il tuo destino.
Nel nuovo mondo, la disuguaglianza e la discriminazione possono essere radicate. Cosa succede se sei uno dei cinque milioni di adulti nel Regno Unito senza regolare accesso a Internet e con poca o nessuna conoscenza del computer? E se l’algoritmo si limitasse a produrre distorsioni esistenti di razza e classe, rendendo ancora più pronunciato l’abisso tra ricchi e poveri, bianchi e neri, istruttori universitari e manuali?
C’è anche una qualità Kafkiana agghiacciante che abbraccia il mondo. Come Manjhi ha scoperto così tragicamente, vengono fatti degli errori. Le macchine si guastano. Se non c’è nessuno a portata di mano che ti vede come una persona e non come un numero di 12 cifre da elaborare, i risultati possono essere fatali.
Il computer dice “Nessun pagamento”. Ora cosa fai?
