Le azioni, i comportamenti e le interazioni di ogni persona all’interno della società in cui vive sono oggetto di una valutazione su una scala, poniamo, di cinque punti.

Un punteggio più alto apre le porte a opportunità favolose e a vantaggi speciali, mentre uno più basso può provocare un isolamento dagli altri e avere conseguenze sia a breve che a lungo termine.

Ecco cos’è in sostanza, sebbene semplificato, un sistema di valutazione sociale basato sul social scoring (o punteggio sociale).

Una delle più famose applicazioni del social scoring è quella proposta dal governo cinese.

Si chiama sistema di credito sociale, e serve a monitorare cittadini, enti e imprese attraverso un complesso sistema di controllo e valutazione, connesso a misure premiali e sanzionatorie.

Ma la Cina, non è l’unica entità che impone soluzioni di monitoraggio sociale.

Nel Regno Unito, in Israele e in altri Paesi, sia il governo che alcune autorità private utilizzano sistemi che consentono di raccogliere in modo efficace informazioni sul comportamento delle persone.

Il social scoring e la società ideale

Chiaramente c’è una ragione logica dietro un sistema che tiene traccia del comportamento umano e prende decisioni in base ai risultati della sua analisi.

L’idea alla base del social scoring è che il comportamento socialmente responsabile dovrebbe essere premiato perché rende la società un posto migliore e più sicuro.

Ma come avviene nel dettaglio la valutazione?

Ogni cittadino riceve un determinato punteggio all’inizio del suo percorso di giudizio, e determinate azioni possono abbassarlo o aumentarlo. 

Ad esempio, donare in beneficenza aumenterebbe il social scoring, mentre acquistare sigarette lo abbasserebbe.

Le persone possono quindi essere premiate o punite in base alla valutazione che ricevono.

Quindi il governo, in una società del genere, potrebbe impedire a degli studenti considerati poco meritevoli in base al loro social scoring di entrare nelle migliori università del Paese.

I difetti del social scoring

Nonostante il nobile fine di sistemi di governance basati sul social scoring – sia in ambito pubblico che privato – sorgono spontanei gli interrogativi sulla legittimità di certi livelli di sorveglianza e su quale sia il prezzo da pagare per il benessere collettivo. 

Innanzitutto, i sistemi di assegnazione del credito sociale si basano sull’Intelligenza Artificiale.

Ciò significa che una serie di decisioni può essere affidata alle mani dell’AI.

L’Intelligenza Artificiale si basa su algoritmi di apprendimento automatico che, nonostante gli enormi progressi dell’industria tecnologica, sono tutt’altro che perfetti se non alimentati in modo corretto dall’uomo.

Ad esempio, a meno che non siano specificatamente incluse dallo sviluppatore, gli algoritmi non tengono conto di considerazioni etiche. 

Inserire semplicemente enormi quantità di dati in un sistema di apprendimento automatico e accettare il risultato senza alcuna valutazione critica potrebbe portare a una serie di conseguenze indesiderate, comprese scelte che alla fine violano i diritti di determinati cittadini.

Infine, qualora il controllo del sistema fosse concentrato nelle mani di un solo gruppo sociale, la capacità di modificare le regole di funzionamento potrebbe influenzare significativamente la vita di altri gruppi.

Questo darebbe luogo a forme di disuguaglianza sociale, economica e culturale.

Da un punto di vista tecnico, il modo in cui è concepito il social scoring lo rende particolarmente vulnerabile alle manipolazioni artificiali, come l’abbassamento del punteggio di qualcuno per scopi particolari.

La maggior parte dei sistemi di credito sociale si basa su interfacce disponibili pubblicamente.

Queste contengono enormi quantità di dati personali, inclusi tutti i “reati” commessi dalle persone.

Tale tipologia di interfaccia è più soggetta a perdite e, se vi si accede illegalmente, può portare a terribili conseguenze per le persone prese di mira da eventuali hacker.

Le entità che utilizzano tali sistemi spesso forniscono API che consentono agli utenti di cercare le varie violazioni di un individuo, inserendo informazioni come il suo numero di telefono o il numero di passaporto.

Divari e disuguaglianze per le generazioni future

L’idea di un sistema di credito sociale è che tutto ciò che fanno le persone – da come si comportano quando utilizzano i mezzi pubblici a ciò che fanno nelle aule scolastiche – si basa su un unico punteggio, che quindi assume un ruolo centrale per determinare la posizione sociale di ogni individuo.

Il probabile risultato potrebbe ragionevolmente rafforzare la stratificazione sociale e influenzare il futuro di intere generazioni.

Ad esempio, una ragazza o un ragazzo nato da genitori con un basso rating sociale molto probabilmente non avrebbe l’opportunità di entrare in una buona scuola o università.

Di conseguenza, questa persona avrebbe una probabilità molto minore di ricevere un’istruzione di qualità e ottenere una buona posizione economica.

D’altra parte, una persona in regola avrà accesso ai migliori lavori, il che significa che potrà sempre mantenere un punteggio elevato donando in beneficenza.

Con il passare degli anni, il divario tra i cittadini con valutazioni alte e quelli con valutazioni basse aumenterebbe, portando a una società gravemente stratificata.

La questione privacy

Il principale ostacolo che il social scoring incontra nel suo cammino di attuazione sono senza dubbio le norme sul diritto di privacy.

Ma lo sappiamo. Man mano che la tecnologia si sviluppa a un ritmo senza ostacoli, i confini tra la tecnologia digitale e le più ampie questioni sociali e politiche diventano sempre più sfocati.

I sistemi di valutazione sociale funzionano solo se sono in grado di raccogliere grandi quantità di dati personali. 

La soluzione dovrebbe trovarsi da qualche parte all’intersezione tra tecnologie di protezione della privacy, normative governative, pratiche commerciali e principi etici.

Gli interventi del Garante sui progetti di “credito sociale”

Anche nel nostro Paese si sente sempre più spesso parlare di “cittadinanza premiale”.

Hanno cercato di adottarla diversi enti locali per premiare, appunto, i cittadini virtuosi.

Ma il Garante per la privacy li ha bloccati sul nascere.

Con un comunicato stampa dell’8 giugno 2022, l’Autorità ha annunciato l’apertura di tre istruttorie nei confronti di soggetti pubblici e privati che avrebbero avviato pratiche di profilazione sui cittadini.

Secondo il Garante, i meccanismi predisposti comporterebbero l’instaurazione di una sorta di “cittadinanza a punti”, da cui deriverebbero conseguenze giuridiche negative sui diritti e le libertà degli interessati, inclusi i soggetti più vulnerabili.

Una di queste istruttorie riguarda il “Progetto Pollicino”, che prevede meccanismi premiali per i cittadini che, almeno sedicenni, installino un’app di tracciamento della posizione (IoPollicino) per lasciare le loro “briciole digitali”.

Il software trasmette in forma “volontaria e anonima” i dati sugli spostamenti degli utenti per consentire l’effettuazione di analisi sulla mobilità urbana.

Lanciato dalla “Fondazione per lo sviluppo sostenibile”, dal “Ministero della Transizione Ecologica” e dal “Ministero delle Infrastrutture e della mobilità sostenibili”, l’esperimento ha coinvolto per primo il Comune di Bologna, anch’esso interpellato dal Garante.

Problematica è la “moneta” con cui i cittadini vengono retribuiti per la cessione dei dati, ossia premi messi in palio dai partner privati del progetto. 

Attività rispetto alla quale il Garante si starebbe interrogando, non essendo chiare le modalità di trattamento dei dati, né tantomeno la base giuridica di tali operazioni, posto che il consenso del cittadino non può essere considerato una condizione legittimante sufficiente.

Il problema, in generale, sta nella compatibilità dei dispositivi di profilazione, implicanti sorveglianza attiva e premialità della cittadinanza, con il nostro sistema di diritti e principi fondamentali.

Un sistema che, come sappiamo bene, vede un ancoraggio sicuro nel Codice della privacy (decreto legislativo del 30 giugno 2003, n. 196) e nel General Data Protection Regulation (GDPR), che ha rivoluzionato la materia.

Il Garante, che veglia sulla conformità dei trattamenti dei dati al Regolamento, ha da tempo riconosciuto che la raccolta di dati per finalità di profilazione psicologica certamente rientra tra le attività più pervasive di violazione della privacy.

Inoltre, dal momento che il social scoring coinvolge la cittadinanza nella sua totalità, inclusi i minori, occorre prestare particolare attenzione nell’adottare certi sistemi di valutazione.

La scuola, in particolare, ha il dovere di informare insegnanti, genitori e alunni dell’esistenza di pratiche di tracciamento, di cui il punteggio sociale è solo un esempio.

Al di là del social scoring: i consigli per proteggere la privacy dei più giovani

Anche se non è possibile evitare i sistemi di sorveglianza esistenti – cioè quelli che non si basano sul social scoring – o eliminare completamente la propria impronta digitale, ci sono diversi modi per limitare la diffusione di informazioni personali.

Genitori e insegnanti, prendete nota!

Ecco i consigli, (di cui in parte abbiamo già parlato in articolo dedicato alla cybersecurity), da diffondere in classe e a casa per mantenere al sicuro bambini e adolescenti.

Il punto di partenza è modificare le impostazioni sulla privacy in base al livello di protezione desiderato su tutti i principali social network che i minori utilizzano.

Poi è importante:

• Fare attenzione alle immagini che si pubblicano: non tutte le foto devono essere caricate in rete
• Bloccare l’installazione di programmi da fonti sconosciute nelle impostazioni dello smartphone
• Prestare attenzione a quali autorizzazioni richiedono le app,e disattivare i servizi di accessibilità
• Eliminare account, app e programmi che non si utilizzano più, poiché potrebbero ancora raccogliere ed elaborare informazioni personali
• Usare una VPN (Rete Privata Virtuale) quando si accede a una rete wi-fi pubblica non protetta