di Fulvio Oscar Benussi giornalista e socio Fondazione AIDR e Monica Constantin giornalista

La nostra disponibilità ad aderire alla “esternalizzazione decisionale”, perdendo progressivamente tale capacità, sembra avere più porte aperte di un calendario dell’Avvento alla vigilia di Natale. Questo è solo uno dei rischi della pervasività dell’intelligenza artificiale (nel seguito I.A.) nella vita quotidiana.

La diffusione dell’intelligenza artificiale potrà avere effetti anche positivi. L’entusiasmo che si propagò all’avvento di Internet con le sue promesse di democratizzare l’informazione e di favorire le comunicazioni venne poi tradito dalla storia. Gli effetti della polarizzazione, della diffusione di hate speech e di “hackerizzazione delle democrazie” causata dalla diffusione dei social network ci consigliano un approccio prudenziale e ci suggeriscono la necessità di un controllo democratico del processo di diffusione delle nuove tecnologie di I.A.

Anche l’introduzione di I.A. nelle procedure amministrative gestite dalle Pubbliche Amministrazioni non è esente dal problema.

In questo articolo, come indicato nel titolo, rifletteremo sulla necessità di trasparenza e controllo democratico nell’implementazione sempre più massiccia dell’intelligenza artificiale per gestire l’interazione tra i cittadini-utenti e le Pubbliche Amministrazioni. Proporremo anche alcune indicazioni su come procedere per perseguire questi obiettivi.

Una possibile proposta operativa

Pensiamo che gli Open Data possano essere lo strumento ideale cui fare riferimento per gli scopi indicati. Sarà importante mettere il cittadino nelle condizioni di disporre agevolmente degli strumenti conoscitivi indispensabili per poter prendere posizione o comunque valutare le decisioni assunte dalle Amministrazioni nelle procedure di elaborazione in back office o relativamente all’integrazione di assistenti I.A. nelle decisioni autorizzative e nell’erogazione di servizi pubblici. Proponiamo che le informazioni indispensabili per rendere trasparente e controllabile il processo di integrazione dei modelli di I.A. nelle procedure della PA vengano raccolte mediante un questionario che le Amministrazioni dovrebbero compilare e pubblicare nel proprio sito internet istituzionale oltre a duplicarne in mirror una copia nell’Open data nazionale presso l’Agenzia per l’Italia Digitale[1].

La nostra proposta di questionario annuale di raccolta dati

Indichiamo qui l’insieme delle domande cui le PPAA dovrebbero rispondere ogni anno per consentire il monitoraggio sull’integrazione dell’I.A. nei processi amministrativi pubblici. Il seguente questionario andrà compilato e pubblicato per ogni modello di intelligenza artificiale in sviluppo o in uso presso le Pubbliche Amministrazioni.

Questionario annuale[2]

Chi ha realizzato il modello di I.A.

• è implementata con prodotti I.A. commerciali o disponibili gratuitamente?
• se si tratta di I.A. disponibile gratuitamente, la stessa, è una realizzazione open source?
  • per I.A. open source fornire il codice e/o il link al codice sorgente
  • se implementata con I.A. commerciali, con che tipo di contratto ciò è avvenuto?
    • Noleggio + assistenza
    • Acquisto
    • Altro
  • a che punto è la fase di sviluppo/implementazione del modello di I.A. nei processi amministrativi?
    • fase progettuale
    • prototipo
    • testing iniziale
    • integrazione nei processi dell’Amministrazione

Scopi e benefici attesi

• su quale base di dati è stata “istruita” l’I.A.?
• per perseguire quali scopi è stata, o verrà, implementato il modello di I.A.?
• quali sono i benefici attesi dall’integrazione dell’I.A. nei processi organizzativi dell’Amministrazione:
  • quali vantaggi in efficacia?
  • quali vantaggi in termini di efficienza?
  • quali i miglioramenti dei servizi offerti ai cittadini?
  • in che modo I.A. favorirà l’interazione PA-cittadini?
  • in che modo I.A. favorirà l’interazione PA-professionisti?

Criteri per l’eventuale segretazione

• l’utilizzo di questo modello di I.A. non dovrebbe essere reso noto per quale tra i seguenti motivi?
  • sicurezza e ordine pubblico
  • sicurezza nazionale
  • difesa e questioni militari
  • relazioni internazionali
  • politica e stabilità finanziaria ed economica dello Stato
  • svolgimento di indagini su reati penali
  • svolgimento di attività ispettive

Cittadini: questi i diritti coinvolti

• il modello di I.A. ha (avrà) un impatto sui diritti dei cittadini?
  • quali diritti potrebbero rischiare di venire compromessi dall’introduzione di questa I.A.?
  • quali iniziative è previsto che verranno svolte per limitare (eliminare) tali rischi di lesione dei diritti?
  • tra i compiti attribuiti al modello I.A. c’è quello di informare i cittadini in relazione a decisioni che potenzialmente potrebbero avere esiti negativi per individui o gruppi umani specifici?
  • nel caso in cui al modello di I.A. sia attribuito il compito di definire la priorità nell’accesso ai servizi pubblici è possibile per il cittadino conoscere i criteri guida che il modello segue per definirle?

Commento: l’I.A. è già stata integrata per la gestione delle code per l’accesso a molti servizi sanitari pubblici. A molti sarà capitato che, a seguito dell’accettazione e della conseguente attribuzione di un ticket per lo svolgimento di esami diagnostici o di visite mediche, l’ordine di chiamata non rispettasse la sequenza numerica naturale. Ovvero che pazienti con numeri più alti venissero chiamati prima. Se in questa situazione il paziente chiede spiegazioni la risposta pilatesca è: “è la macchina che decide l’ordine di svolgimento delle prestazioni”. Evidentemente una risposta di tale fatta non è trasparente e non consente alcuna verifica della correttezza del modo di operare del modello di I.A. Questa la motivazione per l’inserimento nel questionario della domanda precedente.

• ci sono situazioni in cui il modello di I.A. si sostituisce ai cittadini nella presa di decisioni (decision outsourcing)?
• i cittadini possono decidere di non delegare all’I.A. la presa di decisioni che li riguardano?
• ai cittadini sarà consentita la possibilità di rinunciare all’interazione con I.A. in cambio di un supporto umano?

Verifiche su bias e modalità in cui I.A. opera

• il modello I.A. è stato testato in ambienti reali (seppure circoscritti) per valutarne le prestazioni e controllare l’impatto e i rischi che potrebbe comportare per cittadini, professionisti e comunità interessate?
• è stata richiesta e svolta una valutazione indipendente dell’impatto dell’implementazione dell’I.A. nei processi amministrativi pubblici?
• dell’utilizzo di I.A. nell’attività amministrativa viene (verrà) fornita preventiva informazione ai cittadini?

Dati resi pubblici, privacy e possibilità di contestazione

• il modello di I.A. avrà accesso ai dati del repository di questa Amministrazione Pubblica?
  • I dati attualmente presenti nel repository interno sono sufficienti all’I.A. per poter svolgere i compiti che si intende assegnarle?
  • In caso contrario come si intende operare per integrare i dati mancanti
• nello specifico caso in esame con quali dati si intende addestrare il modello di I.A.?
  Relativamente ai dati che si utilizzeranno:
  • fornire una descrizione dei dati di addestramento
  • fornire una descrizione dei dati che si utilizzeranno per testare e migliorare le prestazioni del modello di I.A.
  • fornire la dimostrazione che i dati utilizzati per la valutazione siano idonei per gli obiettivi di analisi e previsione delle performance dell’I.A.
  • a quale funzione e/o ufficio è stato attribuito il compito di fornire un feedback sulla bontà della scelta fatta di integrare il modello di I.A. nei processi organizzativi dell’Amministrazione?
    • quale è stato l’esito del feedback?
  • Il modello di I.A. colletterà e cederà informazioni dei cittadini?
    • l’I.A. fornirà dati per la pubblicazione nel sito istituzionale tra gli open data dell’Amministrazione?
    • per le elaborazioni svolte dall’I.A. può essere assicurata l’assenza di rischi per la privacy dei cittadini?
    • con quali modalità l’attività dell’I.A. verrà monitorata e come sarà controllata l’aderenza dei dati stessi al GDPR?
  • che procedura consente al cittadino che si ritiene leso di contestare l’esito di una procedura assolta da I.A.?
  • è possibile ricorrere contro esiti amministrativi generati da I.A.?

Lavoratori: questi i diritti coinvolti

• l’integrazione di I.A. nei processi organizzativi pubblici porterà all’esubero del personale cui in precedenza era attribuito lo svolgimento dei compiti passati all’I.A.?
• in questo caso:
  • che procedure di riqualificazione del personale in esubero sono previste?
  • che modalità verranno seguite per la ricollocazione del personale in esubero?

Conclusioni

Il questionario che annualmente dovrebbe essere compilato da parte delle Amministrazioni Pubbliche italiane riprende integrandolo e contestualizzandolo alla realtà nazionale il memorandum USA (vedere nota 2). L’idea che gli esiti del questionario debbano poi essere pubblicati sia tra gli open data nei siti delle singole PA che centralmente presso l’Agenzia per l’Italia Digitale é legato alla convinzione che l’approccio open possa dimostrarsi vincente. Riteniamo infatti che la collaborazione dei cittadini italiani, professionisti inclusi, possa arginare eventuali rischi e favorire un’integrazione dell’I.A. nel segno dello sviluppo del valore pubblico dei servizi svolti dalle PPAA.

E ora lasciamo agli interessati la libertà di entrare nel merito di questa nostra proposta, da intendersi come un contributo iniziale a un dibattito che auspichiamo possa svilupparsi fino alla definizione di strumenti in grado di assicurare trasparenza e controllo democratico nell’introduzione dei modelli I.A. nell’operatività delle Pubbliche Amministrazioni italiane.

Note

[1] https://www.dati.gov.it/

[2] Il questionario è ispirato al memorandum M-24-10, Advancing Governance, Innovation, and Risk Management for Agency Use che con riferimento all’Advancing American AI Act e al correlato Ordine esecutivo (EO) 14110, Sviluppo e utilizzo sicuri, protetti e affidabili dell’intelligenza artificiale ha richiesto alle agenzie federali di riferire sul loro utilizzo dell’intelligenza artificiale