AI in PagoPA: innovazione tecnologica al servizio dei cittadini

.

In che modo l’AI sta entrando nel mondo di PagoPA? Come sta impattando sul modo di lavorare e sull’organizzazione?

L’intelligenza artificiale sta entrando in PagoPA con le dovute cautele.

Lo scorso anno abbiamo iniziato un percorso strutturato, partendo dalla definizione del sistema di governance e della strategia aziendale per il breve e medio periodo. Gli obiettivi che ci siamo posti sono, da un lato, quello di efficientare i processi interni e, dall’altro, quello di migliorare i nostri prodotti, potenziandoli con funzionalità di AI che possano aumentare il valore per i cittadini, rendendo i servizi pubblici più intuitivi, personalizzati, efficienti e inclusivi. Per quanto riguarda gli utilizzi interni, dopo aver analizzato le esigenze delle singole strutture aziendali, ci troviamo ancora in una fase esplorativa e, con il supporto di un gruppo rappresentativo di colleghi, stiamo testando alcuni strumenti di produttività, al fine di individuare i casi d’uso che possano avere un maggiore impatto positivo sulla nostra quotidianità. Il 2025 sarà un anno decisivo, nel quale contiamo di raccogliere i primi frutti di questo lavoro.

Trasparenza, accountability e protezione dei dati sono temi centrali nell’uso di AI in una società che dialoga con il settore pubblico: quali sistemi di governance avete adottato?

PagoPA ha definito il proprio sistema di governance sull’intelligenza artificiale, con un’attenzione particolare ai principi di trasparenza e accountability e alle esigenze di protezione dei dati personali.

Lo scorso anno abbiamo approvato un regolamento, per definire le procedure per l’adozione di sistemi di AI e assicurare che l’utilizzo sia improntato al rispetto dei principi etici, ponendo al centro i diritti e le libertà degli individui. Abbiamo anche istituito un gruppo di lavoro multidisciplinare, che ha il compito di sorvegliare l’applicazione del regolamento, nonché attuare la strategia, prioritizzando i casi d’uso e valutandone i risultati. In questo contesto il Dipartimento Privacy, Tech Law & Ethics svolge un ruolo centrale, coordinando le attività relative alla redazione delle policy interne, allo svolgimento delle analisi di impatto etico e privacy, alla conformità normativa e al monitoraggio. Ogni progetto di intelligenza artificiale, poi, ha un responsabile che deve garantire la corretta implementazione e riportare periodicamente al gruppo di lavoro.

In che modo valutate i potenziali rischi etici e di bias algoritmici nelle vostre soluzioni tecnologiche, soprattutto quando si tratta di gestire transazioni e informazioni sensibili per conto di pubbliche amministrazioni?

La valutazione dei potenziali rischi etici e dei bias algoritmici è un aspetto cruciale nell’implementazione di soluzioni che fanno uso di sistemi di intelligenza artificiale, soprattutto nella gestione di transazioni e informazioni sensibili. Per questo poniamo un’attenzione particolare all’uso etico e trasparente dell’AI, garantendo l’assenza di discriminazioni. Nelle fasi preliminari dell’adozione o sviluppo di queste tecnologie, eseguiamo un assessment molto rigoroso per l’individuazione dei rischi specifici e delle misure di mitigazione da adottare, sulla base di un framework sviluppato internamente e con il supporto di consulenti specializzati.

Siamo consci che la qualità dei dati utilizzati per l’addestramento dei sistemi di AI è fondamentale e ci impegniamo a garantire l’integrità informativa e la non discriminazione.

Il nostro regolamento interno prevede, poi, la sorveglianza umana (human oversight) in tutte le fasi, con controllo e coinvolgimento umano nell’addestramento degli algoritmi, nell’elaborazione dei dati e nella verifica degli output generati.

Come bilanciate l’innovazione tecnologica con le esigenze di sicurezza e tutela dei cittadini, specialmente nell’ambito dei pagamenti elettronici e dei servizi pubblici?

Il ruolo di PagoPA di tech company al fianco della trasformazione digitale del settore pubblico incrementa il nostro senso di responsabilità di fronte all’adozione delle tecnologie emergenti.

La Società, consapevole che la PA può diventare un vero e proprio motore dello sviluppo dell’AI grazie ai dati che produce, bilancia l’innovazione tecnologica con le esigenze di sicurezza e tutela dei cittadini attraverso un approccio che mette al centro i principi etici, la protezione dei dati personali e la conformità normativa. Innovare sì, ma senza perdere mai di vista la nostra mission, e mantenendo il focus sulla garanzia che l’adozione dell’AI continui a “tenere il cittadino al centro”.