Paura del social scoring? Dovremmo. E no, non è un vezzo luddista. Tutto il contrario: si vuole governare l’innovazione affinché sia sostenibile sul fronte dei diritti umani, anziché cedere al totem del tecnoentusiasmo alla cui presenza questi vengono troppo facilmente sacrificati.
Le obiezioni più comuni opposte alle critiche circa la sostenibilità di tali sistemi, in modo neanche troppo sorprendente, mirano ad indicare una chiusura mentale nei confronti delle novità proposte. Ma a ciò possiamo dire che soccorre il caveat di Sir Terry Pratchett.
The trouble with having an open mind, of course, is that people will insist on coming along and trying to put things in it.
Il quale può ben essere applicato alla volontà, tutt’altro che nascosta, di “orientare” determinati comportamenti del cittadino. O meglio: il suo modo di pensare, poiché è noto che l’azione segue un pensiero. E dunque possiamo ben suppore che l’ambizione del social scoring non consista più di tanto nell’imbrigliare l’azione, poiché quella ne è la naturale conseguenza, bensì andare a definire una sandbox di pensiero, ragionamento e valori.
Come funziona il social scoring
Insomma: per spiegare in modo semplice come funziona il social scoring, questo non consiste che la proposta, da parte di uno Stato (o di una sua emanazione), di un meccanismo premiale per cittadini virtuosi. Si vorrebbe dire un metodo di moral suasion, o una spinta gentile, per stimolare comportamenti virtuosi del cittadino. Purtroppo, nella pratica, si rivela un meccanismo di gambling in cui il gettone da pagare è la libertà del cittadino.
Poiché i sistemi che presiedono questi meccanismi di valutazione sono principalmente automatizzati, ciò comporta una serie di problemi innanzitutto di natura informativa in relazione alle logiche applicate a tali decisioni e, soprattutto, le conseguenze delle stesse nei confronti degli interessati. E se la trasparenza non è la punta di diamante dell’operatore pubblico, dal momento che spesso si arrocca dietro formule apodittiche e di stile, il rischio maggiore è quella autoreferenzialità per la gestione dei dati personali in nome dell’interesse pubblico che il decreto capienze ha consentito e tutt’ora consente. Al momento questi sistemi si fondano sul consenso dell’interessato, sul cui carattere di essere libero ed informato ci si permette di dubitare.
Dopodiché c’è un effetto deresponsabilizzante e confondente, per cui la decisione è assegnata all’algoritmo e non a chi ha scelto di impiegarlo proprio in quel modo. O almeno, questo è il bias diffuso che non viene affatto smentito nelle prassi proposte. Si va a ritenere diffusamente che agisca secondo giustizia ciò che è automatico e fuori dall’intervento umano, mentre non si guarda al momento precedente in cui vengono impostati tutti i parametri e in cui c’è una massima responsabilità del decisore umano per tutti gli effetti che di conseguenza saranno generati dal sistema. Ciò che inoltre gioca un ruolo fondamentale è la possibilità di contestare una decisione, la quale però sfugge al novero dell’illecito amministrativo, penale o civile in cui esistono non solo procedure definite ma anche garanzie e contrappesi.
Perchè dovremmo avere paura del social scoring
Diventa naturale dunque aver paura del social scoring, anche perchè la sua proposta è tutt’altro che gentile dal momento che comporta l’effetto di includere in una comunità: quella dei cittadini virtuosi. Da ciò consegue è che la scelta di non partecipare fa includere nell’insieme di coloro che non sono cittadini virtuosi, dunque. Da qui, sorge qualche dubbio sulla effettiva libertà di acconsentire a questo sistema e ai rischi di subire delle discriminazioni non per effetto di avere dei comportamenti non virtuosi bensì per voler portare fuori dalla sfera di conoscibilità pubblica i propri comportamenti. Insomma: l’essenza primeva della privacy, il right to be let alone da manuale.
Scelta che, sebbene legittima, non sarà di buon grado accettata dalla pressione sociale nel momento in cui verrà – come sembra – promosso come virtuoso chi sceglie di partecipare al social scoring. Con buona pace di un’adesione volontaria che rimarrà sempre più sulla carta.
