di Anna Corrado
Dal secolo scorso i sistemi di intelligenza artificiale in chiave antropocentrica rappresentano la nuova sfida per migliorare la vita delle persone, sistemi adoperati già con successo in ambito sanitario, climatico, finanziario, tutela dell’ordine pubblico, nella realizzazione della cosiddetta smart city. In ragione dell’impatto significativo che l’intelligenza artificiale può avere a breve sulle nostre vite è necessario che si crei maggiore fiducia intorno al tema e che l’utilizzo dell’IA garantisca il rispetto della dignità umana e dei diritti fondamentali anche al fine di meglio comprenderne le opportunità di efficienza per il Paese.
Il Regolamento europeo sull’intelligenza artificiale, di imminente pubblicazione, fa riferimento ai principi di trasparenza, sorveglianza umana (che collima con il più noto principio in diritto della riserva di umanità), spiegabilità, accuratezza, robustezza e cybersicurezza. Si tratta di principi oramai radicati in Europa, definitivamente recepiti come basilari per lo sviluppo e l’utilizzo di sistemi di intelligenza artificiale e certamente destinati a incidere sulla futura strategia finalizzata a garantire la tutela dei diritti fondamentali nell’era digitale.
Il tema inevitabilmente riguarda anche il mondo delle Pubbliche amministrazioni e l’utilizzo delle nuove tecnologie informatiche in ambito amministrativo, che suscita preoccupazione non solo per i cittadini ma anche per il mondo dei giuristi che temono, non senza ragione, l’avanzata tecnocratica e una regressione nella tutela di diritti, non solo procedimentali. In aggiunta va considerato che il mondo delle Pubbliche amministrazioni appare meno pronto nel recepire le implicazioni e i cambiamenti che le trasformazioni digitali prospettano.
L’utilizzo delle procedure automatizzate deve andare in un’ottica di complementarietà e non di sostituzione del funzionario pubblico, per cui l’amministrazione deve necessariamente individuare l’ambito di attività amministrativa che meglio si presta all’automazione e che può essere «delegata» alla macchina. L’impiego di algoritmi può rafforzare la capacità conoscitiva dell’amministrazione, per dare una base più ampia e solida alle valutazioni discrezionali e, naturalmente, per diminuire significativamente i tempi di raccolta e analisi dei dati e di decisione. Potrebbero, in termini di efficienza come di trasparenza, diminuire le disparità, le incertezze e le contraddizioni che frequentemente contraddistinguono l’esercizio del potere discrezionale.
Ma per giungere pronti all’appuntamento con la futura tecnologia tre sono le direttrici verso cui dovrà indirizzarsi lo sforzo riformatore del Paese: delineare un quadro normativo adeguato; affrontare il tema delle competenze e delle conoscenze dei funzionari amministrativi; individuare regole di trasparenza che consentano ai cittadini di avere contezza delle scelte tecnologico-amministrative operate e di interfacciarsi con decisioni automatizzate.
In merito al primo tema va considerato che sia la dottrina che la giurisprudenza hanno già da tempo individuato nell’ambito dell’attività amministrativa la cosiddetta decisione algoritmica e cioè quella che si registra all’esito di procedure amministrative che fanno applicazione di algoritmi in termini di sequenza ordinata di operazioni di calcolo fondate sulla potenza computazionale. La decisione algoritmica, anche se resa attraverso procedure informatiche evolute, deve comunque soggiacere ai principi previsti dalla legge sul procedimento amministrativo e, segnatamente, ai principi di imparzialità, comprensibilità, pubblicità e trasparenza. Per quanto indubbi siano i vantaggi che derivano dall’automazione del processo decisionale dell’amministrazione, l’utilizzo della stessa non potrebbe mai implicare un sacrificio dei principi fondamentali che segnano il procedimento amministrativo e che si sono oramai consolidati nel nostro ordinamento. Il giudice amministrativo ha, infatti, ribadito che l’utilizzo di procedure «robotizzate» non può essere motivo di elusione dei principi che conformano il nostro ordinamento e che regolano l’attività amministrativa (Consiglio di Stato n. 2.270/2019, n. 881/2020, n. 8.474/2020).
È indubbio che i sistemi di IA applicati alla Pubblica amministrazione rappresentano una prospettiva irrinunciabile per realizzare gli obiettivi di buon andamento ed efficienza della moderna amministrazione, consapevoli che è necessario porre da subito il tema dei rischi e dei limiti di tale utilizzo senza però comprometterne le potenzialità. Il quadro normativo nazionale è caratterizzato da una norma a maglie larghe, di cui all’articolo 3 bis della legge 241/1990, che prevede l’utilizzo di strumenti informatici e telematici come regola generale da parte delle Pubbliche amministrazioni, per rendere più efficiente l’attività amministrativa. A questa norma si affianca l’articolo 30 del nuovo codice dei contratti pubblici, di cui al decreto legislativo 36/2023, che rappresenta una disciplina importante in tema di utilizzo delle nuove tecnologie nella pubblica amministrazione, inclusi i sistemi di intelligenza artificiale e con una vis espansiva che può andare ben oltre l’ambito della contrattualistica pubblica e riguardare tutta l’attività amministrativa. Ma è necessario individuare una disciplina generale in tema di utilizzo dell’IA nella Pubblica amministrazione da introdurre almeno nell’ambito della legge sul procedimento amministrativo (241/1990) affinché si fissino i principi da rispettare e si richiamino le regole e gli strumenti di trasparenza già recepiti, da estendere a tutta l’attività amministrativa.
La competenza dei funzionari pubblici
Altro tema importante è quella della competenza dei funzionari pubblici a far fronte alle novità che giungono dal mondo tecnologico e alla «sorveglianza umana» che viene richiesta per evitare di porre eccessiva fiducia nelle scelte effettuate da un software intelligente. Il rischio che i funzionari pubblici si appiattiscano sulle scelte fatte dalla macchina sia in ragione dell’età media elevata, sia per gli indubbi vantaggi che implica l’automazione, è molto concreto. Sarà, quindi, necessario, nell’ordinario turn-over, poter contare sempre di più su personale con competenze tecniche adeguate anche al fine di scongiurare un appiattimento sulle decisioni automatizzate ed evitare il rischio di veder vanificata nei fatti l’attuazione del principio di «non esclusività della decisione algoritmica», necessitando della presenza di soggetti in grado di controllare gli input, gli obiettivi da raggiungere, il processo decisionale e gli output; inoltre questi stessi soggetti dovranno, in caso, essere capaci di discostarsi dalla decisione proposta dall’algoritmo. Ciò che, quindi, andrà scongiurato è che la tecnologia da servente diventi «padrona» per la forza pratica ad essa connaturata e per l’indubbio vantaggio connesso a una scelta suggerita automaticamente dal sistema.
Infine, nell’ambito dell’utilizzo dell’IA si pone il tema della trasparenza. L’approccio dei cittadini all’uso della tecnologia è tendenzialmente emotivo e di preoccupazione, temendo di essere privati dei mezzi per difendere i loro diritti davanti alle asimmetrie informative del processo decisionale algoritmico. È noto che in ragione della tipologia di tecnologia utilizzata la trasparenza della decisione può variare. È per questo che uno dei temi più importanti sta diventando quello della trasparenza, per aiutare il cittadino ad accrescere la sua fiducia nelle procedure automatizzate. In disparte le difficoltà tecniche riferite alla trasparenza dei sistemi di machine learning sarà, così, importante assicurare trasparenza nel loro utilizzo al fine di informare i destinatari in merito alle procedure automatizzate utilizzate e soprattutto fare in modo che le persone abbiano contezza di interagire con sistemi di IA.
Un sistema di intelligenza artificiale si presenta come una nuova forma dell’agire che può avere successo, risolvere problemi e raggiungere obiettivi senza essere intelligente, nell’accezione umana del termine. Per essere compatibile con la dimensione umana è tuttavia necessario che tecnologia e diritto camminino insieme per evitare un arretramento nei diritti e nelle garanzie.