Distopie digitali

Ken Downie e i fratelli Martin e Richard Dust sono dei flippati. Fanno parte di quel genere di persone che, quando sei al baretto, si mettono a parlare di complotti e teorie cospirazioniste mentre tu vorresti solo bere un Campari e parlare di quanto sia forte lo Spezia quest’anno. Ken Downie e i fratelli Dust sono anche dei musicisti sotto il moniker The Black Dog. Da 30 anni producono musica techno, e possono essere considerati tra gli inventori della IDM (Intelligent Dance Music). La particolarità del loro progetto è quella di creare una musica che loro stessi definiscono “la colonna sonora della nostra distopia”; il loro ultimo album, Post Truth, è una sorta di summa del loro pensiero, nel quale esplorano la trasformazione del mondo in un luogo in cui il controllo delle opinioni e dei comportamenti sono diventati la più influente delle armi politiche. L’ultimo brano del disco è intitolato Technological Utopians, non è dato sapere se per un refolo di ottimismo nei confronti del futuro o come gesto di ironia. La storia di oggi parla di come potremmo essere sul punto di mancare la nostra utopia tecnologica. Mentre la scrivevo pensavo che forse ogni tanto dovremmo ascoltare quello che dicono i flippati, basta che non parlino quando gioca lo Spezia. Sigla!  

Nell’autunno 2019 è stato pubblicato il rapporto del Relatore Speciale ONU per la povertà estrema e i diritti umani, Philip Alston. Al centro dell’attenzione è stato messo l’allarme per il numero crescente di sistemi di welfare basati su big data analytics e algoritmi di profilazione e sul conseguente pericolo che meccanismi di questo tipo potrebbero rappresentare nei confronti delle libertà individuali.

Il rapporto si basa sulle osservazioni avvenute nell’ultimo biennio in USA e UK, e su una survey che ha coinvolto gruppi di ricerca sui diritti umani, istituzioni governative e centri di studio in 34 Paesi, tra cui anche l’Italia. Concentrandosi su alcuni temi cardine della digitalizzazione, soprattutto gli aspetti legati alla identità digitale e all’implementazione di sistemi di welfare automatizzati, le osservazioni di Alston hanno evidenziato come il pericolo per l’accentramento del controllo nelle mani dei governi sia sempre più concreto, tanto che lo stesso Relatore è arrivato a parlare di una possibile futura distopia digitale.

Il primo nodo evidenziato nel Rapporto, come abbiamo visto, riguarda le identità digitali; anche in Italia si sta parlando molto – al momento in cui scrivo, inizio 2020 – dello SPID: il problema su cui si sta concentrando il governo riguarda la gestione delle Identità, attualmente in mano ad una serie di Identity Provider certificati. In un emendamento recente al Decreto Milleproroghe, il Governo ha tuttavia proposto l’accentramento statale della gestione delle identità digitali, eleggendo il Viminale come unico provider a partire dal 2023. Se da un lato con questo emendamento si punta ad incrementare il numero di utenti (al momento siamo al di sotto dei 6 milioni di persone) e a garantire la gratuità del servizio, dall’altro si sono levati cori di critiche sulla statalizzazione delle identità digitali, che comporterebbe la creazione di un enorme database di dati sensibili con tutti i rischi legati alla gestione della privacy e della cybersecurity.

Come si apprende dal Rapporto, il progetto è perfettamente in linea con le politiche internazionali: la Banca Mondiale ha attivato dei programmi di finanziamento (ID4D, Identification for Development) per sostenere l’implementazione di sistemi di identificazione digitale che sono stati oggetto di endorsement da parte di diverse corporation attive nel mondo della finanza, una tra tutte MasterCard, quale base per i modelli strategici di sviluppo futuro.

Il passo successivo per sistemi di questo tipo è l’integrazione con apparati di profilazione biometrica, tramite algoritmi intelligenti di riconoscimento facciale o di tracciatura delle impronte digitali. In India, per esempio, il sistema Aadhar, attivo dal 2009, prevede una carta d’identità biometrica a cui è associato un codice a 12 cifre, che conta ormai più di 1 miliardo di utenti. Tramite Aadhar, riconosciuto come il sistema di identificazione più sofisticato al mondo, i cittadini indiani hanno accesso ad una vasta gamma di servizi fondamentali, tra cui trattamenti sanitari, servizi scolastici, pagamento delle tasse. La sua implementazione ha permesso all’India di compiere uno straordinario balzo in avanti nei 10 anni di attività del sistema, risolvendo una serie di problemi di grande importanza, come la falsificazione dei certificati elettorali o la duplicazione delle patenti.

Come ha scritto il Guardian in un articolo di ottobre 2019, tuttavia, un banale glitch in un sistema di queste proporzioni può comportare danni irreparabili. La registrazione ad Aadhar, infatti, è fondamentale per avere accesso al sistema di welfare indiano e godere dei sussidi statali che, in un Paese gigantesco e in pieno sviluppo come l’India, coinvolgono centinaia di milioni di persone. Nel caso di Motka Manjhi, un errore di lettura delle impronte digitali ha impedito per diversi giorni di fila all’uomo di ricevere la razione di sussistenza a cui avrebbe avuto diritto, fino a causarne la morte per inedia.  

Al di là di questo caso, gravissimo ma estremo, gli attivisti indiani si stanno battendo per rendere il processo più trasparente nei suoi passaggi, in considerazione del fatto che un sistema intelligente, in grado di amministrarsi autonomamente e accentrare tutte le decisioni, è completamente impermeabile a tentativi esterni di capirne il funzionamento e di intervenire tempestivamente nel caso di errori di processing come quello che è stato fatale per Manjhi.

«Uno dei principi che regolano il lavoro dell’amministrazione è che non si deve mai contemplare la possibilità di uno sbaglio. […] Errori non se ne commettono e, anche se ciò per eccezione accade, come nel suo caso, chi può dire alla fin fine che sia davvero un errore?»

Con questa frase il Sindaco, suo diretto superiore, spiega al signor K. che la sua chiamata a svolgere il lavoro di agrimensore nel piccolo villaggio in cui si svolgono le vicende del Castello è frutto di uno spiacevole equivoco, piuttosto che di un errore. Nel suo ultimo lavoro Kafka delinea un ritratto dell’uomo come ingranaggio di uno stato-macchina completamente burocratizzato, al cui controllo è impossibile sottrarsi. Ogni decisione presa è il frutto di meccanismi imperscrutabili e superiori, ma incontestabili e infallibili. Non esiste la possibilità dell’errore, al massimo ci si può ritrovare vittima di un glitch, un equivoco come quello che è costato la vita a Manjhi.

L’opera di Kafka non ha mai smesso di essere attuale, e nel contesto descritto da Alston possiamo trovare un parallelismo ribaltato tra la burocrazia asfissiante del Villaggio e le ambizioni dei moderni Paesi di dotarsi di sistemi di welfare digitale che, nel nome del risparmio e dell’efficientamento delle pratiche, ottengano un controllo crescente sulle vite dei propri cittadini, dei quali arrivano a conoscere ogni aspetto della vita pubblica tramite l’utilizzo di “dati e tecnologie digitali, utilizzate per automatizzare, predire, identificare, sorvegliare, identificare e punire” chiunque venga inserito nel sistema.

L’effetto straniante è quello di un ribaltamento nei rapporti tra Stato e cittadini che necessitino di protezione sociale: in chiusura al rapporto si legge infatti che

«In misura maggiore rispetto al passato, l’attuale stato sociale digitale è spesso sostenuto dal presupposto di partenza che l’individuo non è un titolare dei diritti, ma piuttosto un richiedente. In tale veste, una persona deve convincere chi prende le decisioni che è “meritevole”, che soddisfa i criteri di ammissibilità. E gran parte di ciò deve avvenire per via elettronica, a prescindere dalle competenze del richiedente in tale ambito».

Come già ribadito, quindi, la strada per la digitalizzazione deve passare senza dubbio per un percorso che preveda l’educazione degli utenti all’utilizzo dei mezzi informatici necessari e ai diritti e doveri che la digitalizzazione stessa va a toccare. Allo stesso tempo, deve essere necessario un meccanismo di controllo che garantisca la trasparenza degli algoritmi e l’accountability di tutto il sistema, per evitare che un Sindaco possa spiegare al signor K. di turno che non c’è stato nessun errore nella gestione della sua identità digitale, ma al massimo un fastidioso glitch.  

Per approfondire:

• Automating Poverty, una serie di articoli del Guardian su digital welfare e identità digitali.
• il Rapporto ONU su povertà e diritti umani di Ottobre 2019.