Il crescente ricorso all’automazione
Negli ultimi anni, la pubblica amministrazione ha iniziato a implementare sistemi automatizzati per gestire i dati, spinta dall’avanzamento dell’intelligenza artificiale. Questa evoluzione promette di migliorare l’efficienza, riducendo il personale necessario e accelerando i processi decisionali. Tuttavia, l’adozione di tali tecnologie non è priva di sfide e rischi, specialmente per le categorie più vulnerabili della società.
Le insidie degli algoritmi
Un esempio emblematico è rappresentato dal sistema olandese Syry, che ha inviato verifiche fiscali a migliaia di cittadini. Le indagini hanno rivelato che l’algoritmo utilizzato era affetto da pregiudizi, causando ingiustizie nei confronti di alcune categorie. Questo solleva interrogativi sulla responsabilità e sulla trasparenza delle decisioni automatizzate. La scalabilità degli algoritmi, che consente di prendere decisioni simultaneamente per milioni di persone, amplifica il rischio di errori sistematici.
Il ruolo dell’Osservatorio sull’Amministrazione automatizzata
Per affrontare queste problematiche, è fondamentale il lavoro dell’Osservatorio sull’Amministrazione automatizzata, avviato nel 2018. Questo gruppo di volontari ha recentemente pubblicato un rapporto che mappa i sistemi di intelligenza artificiale in uso in Italia. La mancanza di un registro pubblico aggiornato sull’uso di tali tecnologie nella pubblica amministrazione rende il loro lavoro ancora più cruciale. Marta Marchiori, dottoranda in Intelligenza artificiale, sottolinea l’importanza di evidenziare il divario tra la situazione attuale e le aspettative di trasparenza e responsabilità.
La necessità di trasparenza e responsabilità
La crescente automazione è spesso vista come un modo per migliorare la qualità dei servizi pubblici. Tuttavia, l’uso irresponsabile di sistemi automatizzati può avere conseguenze gravi sulla vita dei cittadini.
La deresponsabilizzazione dell’amministrazione, che affida interamente il processo decisionale agli algoritmi, è un rischio concreto. È essenziale che le pubbliche amministrazioni non solo adottino queste tecnologie, ma lo facciano in modo trasparente e responsabile, garantendo che i cittadini siano consapevoli delle decisioni che li riguardano.
Iniziative positive e il futuro dell’automazione
Nonostante le sfide, ci sono iniziative locali che cercano di affrontare questi problemi in modo virtuoso. Tuttavia, il panorama rimane frammentato e spesso invisibile. È fondamentale che le amministrazioni pubbliche lavorino per creare un registro chiaro e accessibile sull’uso dell’intelligenza artificiale, per garantire che i cittadini possano esercitare i loro diritti e comprendere le decisioni che li riguardano. Solo così si potrà costruire un futuro in cui l’automazione sia un alleato della giustizia sociale e non un ostacolo.
