Black mirror apre la terza stagione con un episodio intitolato Nosedive, dove la vicenda si snoda attorno ad un sistema di feedback che mira a valutare l’affidabilità dei cittadini. La puntata è ambientata in un mondo nel quale ogni individuo può valutare gli altri, con una stima che va da una a cinque stelle, ogni qualvolta vi sia un’interazione. Tutto ciò influisce sullo stato socioeconomico dell’individuo valutato. Questa può sembrare agli occhi di chi guarda, una realtà ancora molto distante dalla nostra, garante delle libertà individuali; appare una trama frutto della mera fantasia del suo brillante autore, Charlie Brooker. Ma se non fosse così, se si fosse già arrivati all’attuazione di un sistema che permette di tenere sotto controllo la condotta di ogni cittadino?

Introduzione

Aspetto storico/sociologico

Nello Shandong, ricca provincia della Cina orientale, alcune cittadine si sono distinte guadagnandosi il primo posto nella somministrazione del cosiddetto Certificato dell’affidabilità, un sistema di Credito Sociale che il governo cinese intende estendere su scala nazionale entro il 2020. Nella sede dell’anagrafe vi è uno sportello dove ogni cittadino si dirige per ritirare il suo certificato. Ad ognuno dei 700 mila abitanti è assegnato un credito sociale di 1000 punti dal quale si parte. Nel sistema confluisco dati provenienti dalle banche, da internet, dai tribunali, dalle aziende. I comportamenti deplorevoli determinano la perdita di punti, a differenza delle attività socialmente utili che ne fanno guadagnare. Vi sono cinque livelli di affidabilità previsti: tripla A per chi guadagna più di 1000 punti, D per chi precipita sotto i 500. I cittadini più affidabili usufruiscono di condizioni più vantaggiose, come affittare una bici senza deposito cauzionale; i meno meritevoli invece si possono scordare del mutuo casa, ad esempio, oppure non viene concesso loro di utilizzare un determinato mezzo di trasporto. Il meccanismo dei punti mira a scoraggiare comportamenti socialmente inammissibili.

Aspetto psicologico/patologico

L’intento del governo, il quale pare non tutelare la privacy dell’individuo, spiega che il fine ultimo di questo esperimento sociale sia quello di creare un sistema radicato di sorveglianza. Attraverso un apparecchio visivo di riconoscimento facciale, la polizia riesce a risalire ai dati anagrafici delle persone inquadrate. Questo tipo di intelligenza artificiale, arriva anche a leggere nel pensiero, raggiungendo una serie di successi. Un esempio arriva dall’istituto di psicologia dell’accademia cinese delle scienze, dove il professore Zhu Tingshao e un’equipe di ricercatori, sono in grado di identificare profili di individui con tendenze suicide; sul computer dei soggetti a rischio appare una finestra con un’offerta di aiuto. Il professore afferma come la possibilità di individuare l’idea suicida permette di aiutare l’interessato informando amici e parenti. La tecnologia diviene un mezzo di supporto per un intervento preventivo in situazioni di emergenza. E’ necessario a questo punto che il legislatore attui la tutela della privacy dell’individuo soggetto di analisi, per evitare che questa forma di corroborazione, non diventi un’arma a doppio taglio, mettendo a rischio la persona.

Aspetto educativo

Il Social Credit diviene dunque la base per la creazione di una società armoniosa. Atta a premiare i comportamenti virtuosi punendo la condotta che reca danno allo stato e di conseguenza ad ogni singolo cittadino. Mira alla creazione di un paese basato su autodisciplina e crescita morale. Il sistema di credito sociale diviene un’opportunità per il riconoscimento del proprio Sé, un feedback positivo per gli individui meritevoli. Grazie a questa forma di valorizzazione personale, l’individuo si rispecchia nell’ambiente in cui vive, sentendosi riconosciuto un ruolo sociale attivo.

Conclusioni

Il Sistema di credito sociale è una risorsa per i cittadini e i sistemi di governance. David Orban, esperto di tecnologie esponenziali e fondatore di Network society, afferma che l’intelligenza artificiale è il passo verso un nuovo potere nelle tasche di ognuno di noi, attraverso la democratizzazione della sua diffusione. Dunque perché l’attuazione di questo sistema automatico che giudica la condotta di ogni individuo, porta alla fioritura delle potenzialità umane attraverso la tecnologia, è necessario che i legislatori si dimostrano interessati alla tutela della privacy di ogni cittadino, per evitare un restringimento delle libertà individuali. Le società che esplorano le applicazioni di intelligenza artificiale devono diventare un investimento per affinare la ricerca, evitando di sfociare in un nuovo colonialismo.