a cura di  Redazione, diGenova OdV

 Condividiamo volentieri l’appello pubblicato da WIRED di un gruppo di esperti che elenca ai candidati alle amministrative le priorità in campo tecnologico, sempre più centrali nell’amministrazione di una città.

* Questa lettera è stata scritta da Luna Bianchi, Matteo Navacci, Diletta Huyskes del team Advocacy di Privacy Network e Luca Sambucci, esperto di intelligenza artificiale presso Snglr Group.

 

Cari candidati e candidate,

mai come oggi le vite dei cittadini sono collegate ai computer. I nostri sistemi amministrativi e sociali sono tutt’uno con le reti di computer che li fanno funzionare. Le reti informatiche tengono in piedi i servizi pubblici, la finanza, la sanità, e tutto il tessuto produttivo italiano. Attraverso il digitale oggi si creano e viaggiano i rapporti sociali, aggregativi, familiari e anche elettorali.

È tuttavia sbagliato – come fanno ancora molti – considerare tali mezzi come semplici vettori asettici e neutrali, al pari di semplici strumenti di lavoro o di svago.

Il digitale rappresenta un insieme di sistemi complessi che hanno il potere di scandire e influenzare il nostro mondo. Questo potere può migliorare le nostre condizioni di vita o peggiorarle. Le nuove tecnologie hanno il potere di plasmare ogni ambito umano, pubblico e privato: sociale, lavorativo, politico o sanitario.

Verso questi sistemi convergono interessi molteplici e spesso in contrasto fra loro, con attori nazionali e internazionali che cercano di utilizzarli per influenzare il comportamento delle persone, anche attraverso espedienti e tecnologie di apprendimento automatico che predano i più deboli. I gruppi criminali usano le loro abilità informatiche per ottenere ingenti guadagni attaccando le reti spesso scarsamente protette; altri attori che ambiscono a catturare informazioni e dati considerati di scarso valore, ma che venduti e messi in relazione fra loro portano danno ai soggetti a cui sono stati rubati.

Il motore di questi sistemi sono i dati, che i cittadini fino a questo momento non credevano di dover essere chiamati a proteggere, trovandosi culturalmente e tecnologicamente impreparati a farlo. La tutela viene quindi delegata agli amministratori pubblici e agli uffici che li gestiscono, che tuttavia si trovano in analoghe condizioni di incapacità e arretratezza.

Questa realtà così complessa e dinamica è talmente fluida da risultare sfuggente alla maggior parte dei cittadini, che non vi chiederanno quindi a gran voce trasformazione digitale o accountability degli algoritmi, bensì sicurezza, lavoro, strade riparate e mezzi pubblici efficienti. Sta però a voi, futuri amministratori delle nostre città e dei nostri interessi, comprendere che è dando la giusta priorità alle tematiche digitali che si soddisfano le primarie richieste dei cittadini.

Per questi motivi vi chiediamo di inserire nei vostri programmi, ma soprattutto di dare loro concreta progettualità quando sarete eletti ad amministrare la cosa pubblica, le seguenti proposte.

1. Trasformazione digitale

Vi chiediamo di mettere in condizione, sia l’amministrazione sia l’intera cittadinanza, di trarre il massimo beneficio dalle soluzioni digitali. L’utilizzo del digitale può essere una leva per ridurre le disuguaglianze sociali attraverso interventi ad hoc, adeguati al contesto sociale di riferimento, che ambiscano a:

– consentire a tutti, in particolare ai gruppi e alle aree urbane più svantaggiate, di accedere ai servizi digitali in maniera facile e ubiqua;

– stimolare una rapida alfabetizzazione digitale dei cittadini; non solo in termini di competenze tecniche, ma soprattutto sviluppando consapevolezza tecnologica e pensiero critico, consentendo loro – per fare alcuni esempi attuali – di riuscire a distinguere fake news, di comprendere quando si trovano all’interno di “bolle” di opinione sui social network, di resistere alle indebite influenze delle piattaforme informatiche, di proteggersi da cyberbullismo e revenge porn

– progettare una democrazia digitale educando la cittadinanza verso una maggiore partecipazione ai processi decisionali locali. Favorire l’implementazione di processi di policy making innovativi (behavioral policy making e design thinking) e strumenti digitali ad hoc (per esempio blockchain) in quanto elementi strutturali per un’amministrazione che guarda al futuro con l’obiettivo di coinvolgere i propri cittadini. Considerare l’utilizzo delle cosiddette “sandbox” o di altri strumenti sperimentali per testare l’impatto delle proprie politiche, anche in termini di rispetto della privacy, uguaglianza e sicurezza;

– predisporre dei portali pubblici e accessibili dedicati alla pubblicazione di open data, che riguardino il territorio di riferimento e l’operato della pubblica amministrazione. Tali dati aperti dovranno essere aggiornati, ben documentati, interoperabili e leggibili attraverso visualizzazioni chiare, in linea con le richieste già avanzate dalla campagna nazionale #datiBeneComune. Ciò, probabilmente, richiederà un investimento di risorse e personale con competenze specifiche a cui affidare gli incarichi per la trasformazione digitale. La pubblicazione dei dati riguarda un tassello fondamentale di qualsiasi ecosistema digitale per garantire alle persone trasparenza e fiducia.

2. Intelligenza artificiale

L’Ai può rappresentare una trasformazione dirompente delle dinamiche sociali ed economiche, con vantaggi potenzialmente enormi, ma con rischi altrettanto grandi. Poiché le tecnologie di intelligenza artificiale sono già massicciamente implementate in molti processi digitali, e gli anni in cui voi amministrerete le vostre città  vedranno con tutta probabilità un aumento esponenziale di tali utilizzi, vi chiediamo di non fare l’errore di sottovalutare questo tema, bensì di impegnarvi per:

– valutare la possibilità di impiegare sistemi di intelligenza artificiale per tutte quelle attività del Comune che possano trarne beneficio. Per esempio, attraverso l’uso di assistenti virtuali per potenziare la capacità informativa della pubblica amministrazione e agevolare l’assistenza ai cittadini. O magari adottando sistemi di “knowledge management” per la gestione degli archivi e per la ricerca delle informazioni. O ancora, per la manutenzione predittiva dei mezzi pubblici per mitigare il rischio di guasti o incendi;

– prendere posizioni chiare e trasparenti sul processo di procurement dei sistemi di intelligenza artificiale e sulle loro modalità di implementazione, in particolar modo per quelli che possono avere un impatto diretto sui cittadini;

– incoraggiare la cooperazione tra amministrazioni per condividere esperienze e buone pratiche nazionali e internazionali nello sviluppo delle “smart city”, consapevoli del fatto che costruire una smart city non significa semplicemente riempire una città di sensori, ma è un’attività che richiede investimenti in pianificazione, governance, formazione e manutenzione.

3. Tutela della privacy

La tutela della privacy viene talvolta erroneamente vista come un ostacolo all’esecuzione delle attività amministrative. La normativa privacy è in realtà nata proprio per agevolare la libera circolazione di dati e per stimolare la fiducia verso tutto ciò che è data-driven. È la normativa privacy che fissa elevati standard qualitativi sul trattamento di dati, senza i quali non potrebbe esistere un ecosistema digitale sicuro e sostenibile. Ed è sempre attraverso la normativa privacy che le pubbliche amministrazioni possono garantire la buona riuscita dei loro progetti digitali, sviluppando servizi allo stato dell’arte in grado di soddisfare le aspettative dei cittadini.

È un ostacolo per evitare danni peggiori, magari scarsamente visibili in fase di pianificazione, o dalla bassa frequenza e quindi poco percepiti, ma potenzialmente molto dirompenti quando si verificano. Vi chiediamo per questo di adottare sempre tutte le misure adeguate e necessarie per proteggere la privacy dei cittadini, con particolare attenzione ai seguenti punti:

– privacy by design: chiediamo che siano adottate politiche di governance del digitale in grado di soddisfare i requisiti normativi europei in materia di privacy, sia al momento di determinare i mezzi di trattamento di dati (procurement, sviluppo software, ecc.), sia al momento del trattamento dei dati (valutazioni del rischio, misure di mitigazione, rispetto delle ragionevoli aspettative dei cittadini);

– minimizzazione: adottare politiche e procedure che evitino la raccolta di dati non strettamente necessari allo scopo perseguito, con particolare accortezza per quelle situazioni dove si rischia di sconfinare nella bulimia di dati. Chiediamo che siano messe in atto procedure che raccomandino alla macchina amministrativa, ai suoi consulenti e fornitori di raccogliere solo i dati dei cittadini essenziali all’esecuzione di dette attività, evitando di considerare l’accentramento eccessivo di dati un fattore positivo;

– valutazione del rischio: chiediamo di sottoporre regolarmente a Dpia (valutazione d’impatto) i trattamenti ad alto rischio come richiesto dalla legge, tenendo in considerazione il parere del Dpo e le aspettative degli stakeholder (compresi i cittadini coinvolti), anche attraverso consultazioni pubbliche. Vi chiediamo inoltre di pubblicare estratti/sintesi delle Dpia per aumentare la trasparenza dell’amministrazione digitale e la fiducia dei cittadini verso la Pa;

– videosorveglianza: prima di acquistare e installare nuovi sistemi di videosorveglianza vi chiediamo di valutare il reale stato di sicurezza della città, attraverso parametri e indicatori disponibili pubblicamente, nonché di informare i cittadini in merito alla volontà di installare nuovi sistemi di videosorveglianza e in merito ai parametri utilizzati per pervenire alla decisione di necessità degli stessi. Vi chiediamo inoltre l’onestà e il coraggio di dismettere sistemi di videosorveglianza nel caso in cui i dati disponibili rendano evidente la non stretta necessità di tali sistemi (es. in zone manifestamente sicure);

– sorveglianza biometrica: vi chiediamo di rispettare sin da ora le previsioni e la ratio della proposta di Regolamento sull’Intelligenza Artificiale della Commissione Europea e le indicazioni della società civile in materia di identificazione biometrica nei luoghi pubblici (riconoscimento facciale, vocale, andatura, ecc.), riconoscendo che tale trattamento di dati comporta un rischio elevatissimo per i diritti e le libertà delle persone e come tale dovrebbe essere evitato;

– tracciamento digitale: vi esortiamo a far rimuovere dai siti web istituzionali ogni tracker e sistema di profilazione.

4. Sicurezza dei dati

Proteggere i dati, le reti e i sistemi è una responsabilità condivisa, che coinvolge tutti i livelli della catena amministrativa, dai dipendenti ai dirigenti, passando per i fornitori. Fin da subito potete esser certi che i sistemi della vostra amministrazione saranno attaccati da criminali informatici, di giorno e di notte. I gruppi criminali useranno sistemi automatizzati che studieranno senza sosta le vostre difese per trovare un punto debole. Acquistare un software costoso non servirà a nulla se non sarà accompagnato da una presa di coscienza di tutta la macchina amministrativa sui princìpi della cybersecurity, fra i quali spiccano formazione e resilienza.

– Formazione: vi chiediamo di acquisire, voi in prima persona, e poi anche al personale amministrativo, competenze trasversali in materia di cybersecurity, anche attraverso campagne di sensibilizzazione che partano dai dirigenti. Sarà utile stimolare anche la sensibilità dei cittadini sull’uso consapevole dei sistemi Ict;

– resilienza: studiare e adottare politiche e procedure in grado di assicurare una continuità delle operazioni in caso di attacchi o ad attacco in corso, consentendo una ripresa rapida dell’operatività e minimizzando i danni, ad es. utilizzando sistemi ridondanti, backup, segmentazione della rete. Applicare i princìpi della business continuity anche alla Pa;

– trasparenza: comunicare tempestivamente ai cittadini ogni episodio di violazione di dati, in modo chiaro, semplice e completo, evitando di minimizzare l’accaduto o di fornire informazioni parziali o non veritiere sui reali rischi e conseguenze di una violazione;

– security by design: vi chiediamo di adottare politiche di governance del digitale in grado di soddisfare i requisiti normativi europei e nazionali in materia di cybersecurity, tenendo presenti i rischi dell’industria 4.0 (Cloud computing, Iot, Ai) e i principali ambiti operativi interessati (procurement, architettura Ict, legale, risorse umane);

– remote working: ormai presente in varie misure in ogni ambito lavorativo, il lavoro da remoto in sicurezza va incentivato attraverso la formazione dei dipendenti, con l’uso di strumenti adeguati a proteggere il patrimonio informativo e con l’adozione di politiche di sicurezza condivise e comunicate ai dipendenti, anche attraverso l’adozione degli standard del Framework Nazionale per la Cybersecurity e la Data Protection.

5. Trasparenza e accountability degli algoritmi

Si sta prospettando, in Italia così come all’estero, una preoccupante tendenza a trovare negli algoritmi un capro espiatorio per deresponsabilizzare o mascherare responsabilità ed errori umani. In realtà, sono gli amministratori della cosa pubblica a doversi prendere la responsabilità – se non legale almeno politica – di qualsiasi impatto sulla società e sui diritti e libertà dei cittadini derivante dall’uso, da parte dell’intera macchina amministrativa, di algoritmi e sistemi di intelligenza artificiale. Ciò che vi chiediamo, anche per mitigare eventuali ripercussioni negative derivanti dall’operato dei sistemi intelligenti, è di adottare la massima trasparenza possibile:

– servirsi, per quanto possibile, di modelli di impact assessment e audit che permettano la comprensione e la valutazione del funzionamento dei modelli Ai (c.d. “Explainable AI” o XAI);

– optare per soluzioni che mitighino il più possibile la presenza di bias (pregiudizi), scegliendo quindi accuratamente i dati di input, seguendo i princìpi di “fairness by design” lungo tutto il ciclo di programmazione, valutando consulenze esterne per seguire le fasi di progettazione e design dell’algoritmo in base al suo scopo finale, che dovrà sempre essere chiaro e trasparente;

– creare un “albo degli algoritmi” pubblico che indichi quali modelli di intelligenza artificiale sono usati dalla vostra amministrazione, da quali uffici e per quali finalità, nell’ambito delle attività del Comune, come fatto già da altre città europee (ad es. Amsterdam, Helsinki, Nantes).

6. Mantenere l’essere umano sempre al primo posto con un approccio sostenibile

Oggi è sempre più facile cadere nel cosiddetto tecno-soluzionismo, ovvero la convinzione che le soluzioni tecnologiche siano la risposta ultima (e talvolta unica) ai nostri problemi. Conoscendo bene gli effetti di questo squilibrio, vi chiediamo di utilizzare vantaggiosamente la tecnologia, senza però delegare a essa la soluzione di problemi che non le competono o arrivare a presumere che ogni problema possa essere risolto con investimenti tecnologici.

Crediamo che in questo caso la “stella polare” sia mettere il benessere delle persone, degli esseri umani, al centro di ogni decisione, e di chiedersi ogni volta quale sia l’impatto sociale e ambientale della misura tecnologica che si vuole adottare. Per arrivare a questo vi chiediamo di:

– mantenere sempre – pure in un’ottica di primato digitale – la possibilità, per i servizi al cittadino, di consentire a chiunque di seguire percorsi offline e non digitali;

– osservare e seguire le buone pratiche del settore in merito all’uso etico delle soluzioni tecnologiche, e in particolare di intelligenza artificiale, mettendo sempre l’essere umano al primo posto in ogni decisione;

– valutare l’impatto sociale e ambientale, anche e soprattutto in fase di procurement, delle decisioni tecnologiche che si vogliono intraprendere, come per esempio l’energia necessaria per l’addestramento delle reti neurali di grandi dimensioni;

– creare la figura del “data ethicist” o “Ai ethicist“, che possa consigliare l’amministrazione cittadina in merito a temi di uso etico e corretto dei dati e degli algoritmi, al fine di tutelare sempre gli interessi dei cittadini. Tale figura dovrebbe possedere competenze specifiche, diverse rispetto a quelle di ruoli come il Dpo (Data Protection Officer) o il Ciso (Chief Information Security Officer).

---

Ognuna di queste proposte si occupa di un tema o di uno specifico problema che sarete sicuramente chiamati ad affrontare, anche più volte, nel corso del vostro mandato. Vi esortiamo tuttavia a non cadere nel malinteso di considerare questi temi come semplice appannaggio dei tecnici, ai quali delegare ogni decisione. Sarebbe un errore fondamentale, al pari di considerare la redazione delle ordinanze come semplice appannaggio degli avvocati. Molte delle richieste che avanziamo sono di tipo politico e istituzionale, e non questioni che dovrebbero essere relegate all’ufficio IT o all’ufficio Privacy.

La consapevolezza digitale deve entrare a far parte dell’arsenale di competenze di cui ogni dirigente, ogni amministratore, ogni politico deve essere dotato. Ci rivolgiamo a voi, futuri amministratori e amministratrici di città, di persone e di territori, affinché sappiate comprendere la complessità delle sfide tecnologiche e sociali che presto troverete sulla scrivania.

Anzi, sul computer.

---

This opera is licensed under a Creative Commons Attribution-NonCommercial-NoDerivs 3.0 Unported License.

APPROFONDIMENTI

https://www.wired.it/attualita/politica/2021/09/13/elezioni-sindaco-2021-digitale-programmi/