RIVOLUZIONE INFORMATICA E NASCITA DELL’ IA
Negli anni Ottanta, la rivoluzione del personal computer ha diffuso l’informatica nella società ,nell’industria ,nelle professioni e nelle case. I giuristi si sono interessati ai problemi giuridici dell’informatica, della protezione dei dati, dei reati informatici e al contempo hanno iniziato a usare i computer per scrivere testi e accedere a banche dati locali e online.
Negli anni ’90 la rivoluzione di Internet ha fatto in modo che la vita economica e sociale si trasferisse nella dimensione virtuale o meglio in un’infosfera fisico-virtuale piena di enormi quantità di dati digitali e abitata da macchine interconnesse che elaborano quei dati e comunicano tra di loro e con le persone.
Oggi, siamo di fronte alla terza rivoluzione ,quella dell’ intelligenza artificiale (IA),cioè attività che richiedono intelligenza ,fino ad oggi svolte esclusivamente dalle persone, che possono in misura sempre maggiore ,essere affidate alle macchine ,le quali hanno acquisito capacità di ragionare ,apprendere e agire. Un insieme sempre più ampio di funzioni può essere delegato a tecnologie intelligenti : decisioni automatiche ,predizioni sui comportamenti di individui e gruppi ,controllo su ambienti di lavoro e spazi pubblici ,riconoscimento biometrico ecc.Ciò solleva nuovi problemi giuridici e anche la pratica del diritto è suscettibile di profonde modifiche : ai sistemi esperti, in grado di applicare norme formalizzate in modo automatico ,si affiancano funzioni di apprendimento automatico ,capaci di estrarre informazioni da grandi masse di dati e di costruire e applicare modelli predittivi e decisionali.
Oggi il giurista si chiede se le tecnologie dell’IA possano essere controllate e dirette dal diritto verso il bene degli individui o della società o se invece saranno rivolte a interessi particolari o se addirittura finiranno per travolgere le istituzioni che oggi conosciamo.
Un giurista si chiede se le tecnologie possono aiutarlo ad applicare la legge con maggiore efficienza e efficacia ,contribuendo a realizzare valori di razionalità e giustizia o se invece finiranno per sostituire l’attività automatica con la decisione automatica ,facendo del giurista stesso un servitore della macchina .
DEFINIZIONE DI IA
Ma cosa significa davvero “intelligenza artificiale”?
Manca una definizione univoca e condivisa di intelligenza: si conviene che l’ intelligenza si rivela nella capacità di svolgere diverse funzioni, come l’adattamento all’ambiente e in particolare a nuove situazioni ,l’apprendimento dell’esperienza ,la percezione ,l’intuizione ecc; tutte funzioni unite dal fatto che consentono a chi le possiede di migliorare le proprie prestazioni ,di agire in modo più efficace e efficiente grazie all’acquisizione e all’elaborazione di informazioni e all’adozione di azioni conseguenti.
L’IA trae ispirazione da tali elaborazioni aggiungendo però un aspetto ingegneristico: l’IA non vuole solo studiare l’intelligenza ,ma si propone di costruirla, di dar vita ad artefatti intelligenti.
L’obiettivo ingegneristico dell’ IA non esclude che essa possa contribuire alla conoscenza dell’ intelligenza umana. La costruzione dell’IA può aiutarci a cogliere benissimo la natura dell’intelligenza e ci può consentire di trarre ipotesi circa il funzionamento dell’intelligenza umana.
Possiamo considerare univocamente la definizione di IA proposta da John McCarthy: “l’IA è la scienza e l’ingegneria del fare macchine intelligenti, specialmente programmi intelligenti per computer . E’ connessa al compito simile di usare i computer per comprendere l’intelligenza umana ,ma l’IA non ha la necessità di limitarsi a metodi che sono biologicamente osservabili”.
Ci possiamo però interrogare se questo concetto sia adeguato alla prospettiva del giurista che deve dotarsi di concetti sufficientemente precisi ,che consentano ai destinatari delle norme e a chi ne deve assicurare l’attuazione,di distinguere gli oggetti cui si applicano quei concetti da quelli cui gli stessi concetti non si applicano.Il problema giuridico è che se non abbiamo un concetto condiviso di intelligenza ,come possiamo distinguere i sistemi informatici “intelligenti” da quelli privi di intelligenza ,al fine di applicare solo ai primi le norme sull’IA?
La definizione più seguita è quella dell’High-Level Expert Group che afferma:” come disciplina scientifica ,l’IA include numerosi approcci e tecniche ,come l’apprendimento automatico ,il ragionamento automatico (pianificazione,schedulazione)e la robotica (che include il controllo ,la percezione e i sensori).”
E’ molto difficile cogliere l’ IA mediante una definizione che sia al tempo stesso precisa ed esauriente ,dato che l’IA non è un’unica disciplina scientifica e tecnologica ,ma piuttosto una gamma disparata di metodi e tecniche applicate a un amplissimo e diversificato insieme di obiettivi scientifici ,tecnologici,e industriali.Quindi,l’interpretazione giuridica del concetto non potrà che essere teleleogica ,così da abbracciare il più possibile tutti e soli i sistemi che presentano i rischi e le opportunità delle tipiche applicazioni intelligenti.
Questa è la prospettiva adottata dalla legge sull’IA ; difatti ,le norme più significative di tale legge si applicano solo ai sistemi che vengono classificati ad alto rischio..Ciò che conta non è la qualifica di “sistema di IA “ ma il fatto che il sistema in questione rientri in una categoria di sistemi ad alto rischio.
L’ALGORITMO: DEFINIZIONE E FUNZIONAMENTO
L’IA ha vaste applicazioni e una di queste riguarda gli algoritmi.
Il termine “algoritmo”è infatti spesso usato per fare riferimento in modo preminente ,alle applicazioni di IA e lo ritroviamo in locuzioni come “processi decisionali algoritmici “ ,”governance algoritmica “,” costituzionalismo algoritmico” e così via.Difatti,è tanta oggi l’attenzione per le tematiche dell’IA ,che questa viene spesso identificata con la dimensione algoritmica nel suo complessso.
Gli algoritmi hanno un campo di utilizzo che si estende al di là dei sistemi di IA ,ricoprendo ogni sistema informatico.Essi possono essere molto semplici ,come ordinare liste di parole ,oppure molto complessi ,come gli algoritmi per la cifratura o la compressione di file digitali .Ovviamente ,non tutti gli algoritmi riguardano l’IA ,ma ogni sistema di IA ,come ogni sistema informatico ,comprende algoritmi ,alcuni dei quali svolgono compiti che attengono direttamente a funzioni di IA.
Gli algoritmi dell’IA svolgono diverse funzioni epistemiche e pratiche (attinenti al ragionamento ,alla percezione ,alla classificazione ,alla pianificazione ecc).
Alcuni algoritmi si limitano ad applicare conoscenze preesistenti ,altri realizzano forme di apprendimento ,contribuendo a creare o modificare il modello su cui si basa il funzionamento del sistema di cui fanno parte.Per esempio ,un sistema di IA per il commercio elettronico potrebbe limitarsi ad applicare regole predeterminate (ex applicare sconti ai consumatori che soddisfano certe condizioni ) ma potrebbe anche imparare e usare correlazioni tra caratteristiche e attività degli utenti e loro preferenze e sviluppare strategie efficaci per l’attività commerciale (per negoziare online,o ottimizzare la gestione finanziaria).
Un sistema di IA di solito comprende molti algoritmi ,dalla cui interazione risulta il funzionamento del sistema stesso ma lo possiamo anche vedere come un singolo algoritmo complesso,che comprende gli algoritmi che svolgono funzioni specifiche ,così come gli algoritmi che orchestrano le funzioni del sistema attivando gli algoritmi di più basso livello.Per esempio ,un bot che risponda a quesiti in linguaggio naturale comprenderà una combinazione orchestrata di algoritmi per il riconoscimento vocale ,l’individuazione delle strutture sintattiche ,il recupero della conoscenza rilevante ecc…
Nei sistemi capaci di apprendimento ,la componente più importante non è il modello algoritmico costruito dal sistema per eseguire i compiti ad esso affidati.Il nucleo del sistema è piuttosto l’algoritmo per l’apprendimento ,che genera o sviluppa ,sulla base dei dati cui il sistema ha accesso,il modello algoritmico,affinchè quest’ultimo possa meglio svolgere quei compiti.
Ad esempio ,in un sistema classificatore che riconosce immagini attraverso una rete neurale ,l’elemento cruciale non è la rete neurale ,ma l’algoritmo per l’apprendimento (l’algoritmo “discente”-learning) che modifica la struttura della rete neurale ( il modello algoritmico ) cambiando i pesi delle sue connessioni ,in modo che essa migliori le proprie prestazioni nel classificare gli oggetti di interesse (ex animali,suoni,attitutidini ecc).
La tesi secondo cui un sistema di AI consiste di algoritmi e di dati sembra essere messa in dubbio dal fatto che il comportamento dei sistemi di AI e in particolare quelli che usano metodi per l’apprendimento automatico ,non sembrano operare secondo istruzioni predeterminate e al contrario ,adattandosi a nuovi contesti e informazioni ,sviluppano nuovi comportamenti non previsti dal creatore del sistema.Questa prospettiva potrebbe essere suggerita da una recente sentenza del Consiglio di Stato (Sezione Terza ,sentenza 25 novembre 2021 n.7891),in cui si afferma :
“ la nozione comune e generale di algoritmo riporta alla mente una sequenza finita di istruzioni ,ben definite e non ambigue ,così da poter essere eseguite meccanicamente e tali da produrre un determinato risultato;nondimeno se la nozione è applicata a sistemi tecnologici ,è ineludibilmente collegata al concetto di automazione ossia a sistemi di azione e controllo idonei a ridurre l’intervento umano,di cui il grado e la frequenza dipendono dalla complessità e dall’accuratezza dell’algoritmo che la macchina è chiamata a processare.Cosa diversa è l’intelligenza artificiale ,in cui l’algoritmo contempla meccanismi di machine learning e crea un sistema che non si limita solo ad applicare le regole software e i parametri preimpostati ( come fa invece l’algoritmo tradizionale )ma ,al contrario,elabora costantemente nuovi criteri di inferenza tra dati e assume decisioni efficienti sulla base di tali elaborazioni ,secondo un processo di apprendimento automatico “.
I PROBLEMI CHE COMPORTA L’ALGORITMO
La definizione appena riportata ,solleva due problemi.
In primo luogo, non necessariamente un sistema di IA usa metodi di apprendimento automatico ; il concetto di IA ,come comunemente inteso,include sistemi che compiono inferenze sulla base di rappresentazioni della conoscenza fornite dall’uomo.Ciò resta vero,anche se oggi sono soprattutto i sistemi per l’apprendimento automatico a sollevare interesse,aspettative e preoccupazioni .
In secondo luogo ,come indica la sentenza ,anche i sistemi di IA si basano su algoritmi ,seppure “non tradizionali “ e in particolare algoritmi per l’inferenza e l’apprendimento.Nel caso dei sistemi basati sull’apprendimento automatico ,tanto il programma informatico mediante il quale il sistema apprende ,quanto il modello mediante il quale il sistema risponde agli input ( l’algoritmo appreso come la rete neurale addestrata)possono essere visti come algoritmi in senso ampio.L’algoritmo appreso ,peraltro,può essere oscuro per noi ,nel senso che non riusciamo a capire la funzione ,rispetto al risultato finale,dei singoli passi attraverso cui l’algoritmo stesso si sviluppa.
Possiamo quindi affermare che i modelli oscuri sono algoritmi per la macchina :non sono fatti per noi (la stessa qualifica può applicarsi peraltro ad ogni codice oggetto di un programma informatico ,cioè al risultato della compilazione del codice sorgente scritto dal programmatore nel linguaggio binario del computer,al fine della sua esecuzione ).
Si può parlare di algoritmo ,in senso ampio,anche con riferimento ai software che sperimentano variazioni casuali ,per approntare nuove soluzioni da verificare con l’esperienza .E’ questo il caso dei sistemi che si basano sull’apprendimento con rinforzo.
Questi sistemi,oltre a riprodurre le combinazioni di azioni che hanno già avuto maggior successo ,scelgono a caso nuove azioni ,per sperimentarne l’efficacia.Similmente,gli algoritmi genetici generano nuove soluzioni mediante la ricombinazione ,con variazioni casuali delle soluzioni preesistenti ,anch’essi privilegiando le soluzioni che hanno avuto maggiore successo.
In conclusione,per cogliere la relazione tra algoritmi e IA ,sembra preferibile allargare il concetto stesso di algoritmo e distinguere ,al suo interno,gli algoritmi di IA -in base alle tecnologie che li caratterizzano e alle funzioni che svolgono -anziché restringere tale concetto ai soli “algoritmi tradizionali” escludendo dal suo ambito i programmi per l’IA.
Negli ultimi anni si è assistito a un impiego sempre più ampio di sistemi informatici a fini predittivi e l’uso di tecniche per l’apprendimento automatico è divenuto preminente ,portando alla creazione di una sinergia tra raccolta di dati e applicazioni basate sull’apprendimento automatico.
L’uso predittivo di grandi masse di dati ,usando tecnologie per l’apprendimento automatico comporta grandi opportunità ma anche rischi da non sottovalutare.
Le tecnologie dell’IA possono dare grandi benefici : miglior accesso all’informazione ,maggiore produttività e creazione di valore ,rimedi contro pregiudizi e discriminazioni; può consentire grandi progressi in molti ambiti ,consentendo agli scienziati ad esempio di scoprire e sviluppare modelli supportati da prove empiriche ,alle imprese di anticipare le dinamiche del mercato e i propri bisogni ,oppure ai consumatori di fare scelte più informate e ottenere servizi personalizzati .
In alcuni casi,addirittura l’IA può sostituire completamente alcune attività umane ,in altri casi invece è complementare ,aumentando le nostre capacità umane di conoscere e operare.
La sfida del futuro è combinare quindi umani e macchine in modi nuovi ,che non si limitino ad accrescere l’efficienza ,ma contribuiscano a preservare e accrescere la creatività ,la competenza e la soddisfazione dei lavoratori.
LA PROFILAZIONE
Il problema sono i rischi di un uso eccessivo dell’IA :il più grave è la profilazione ,cioè la possibilità di compiere inferenze sulla base di dati dei soggetti.Ciò è in parte dovuto al fatto che l’automazione riduce i costi per la raccolta e l’elaborazione di informazioni ,aprendo la strada a meccanismi di sorveglianza pervasivi e persistenti.
L’idea base della profilazione è appunto espandere le informazioni e i dati disponibili su individui e gruppi in modo da “disegnarne” tratti e propensioni.
Il punto è che in talune circostanze ,la profilazione comporta la possibilità di influenzare e manipolare gli individui ,innescando il comportamento desiderato.
Ad esempio,un sistema possiede l’informazione che un individuo dotato di certe caratteristiche (ex un giovane maschio, interessato al proprio aspetto fisico ) è propenso a rispondere a messaggi pubblicitari che presentano in un certo modo certi prodotti ,tipo gli integratori alimentari.Il sistema è così in grado di inferire che,con una certa probabilità ,inviando quel determinato messaggio (la pubblicità di un integratore) a quello specifico individuo ,egli risponderà adottando il comportamento previsto (l’acquisto del prodotto ).
La più specifica nozione delineata dall’articolo 4 del Regolamento per la Protezione dei dati (GDPR) collega la profilazione alle valutazioni delle decisioni relative agli individui ,sulla base di dati personali ,escludendo da tale nozione la costruzione di profili di gruppi di individui:
“La profilazione consiste in qualsiasi forma di trattamento automatico di dati personali che valuti gli aspetti personali relativi a una persona fisica ,in particolare per analizzare o prevedere aspetti quali le prestazioni lavorative dell’interessato,la situazione economica ,la salute,le preferenze o gli interessi personali ,l’affidabilità e il comportamento ,la posizione geografica e gli spostamenti ,laddove ciò produca effetti giuridici che lo o la riguardano o che influiscono in modo significativo su lui o lei “.
Inoltre ,oltre ai rischi legati alle violazioni della privacy e della protezione dei dati ,la profilazione crea nuovi rischi di stereotipizzazione ,diseguaglianza e discriminazione a causa delle classificazioni e delle categorizzazioni su cui essa si basa.Essa può condurre a scelte che compromettono l’interesse dei singoli a un trattamento algoritmico equo e corretto ,vale a dire,l’interesse a non essere soggetti a pregiudizi ingiustificati in seguito a elaborazioni automatiche.
La profilazione crea nuovi rischi di stereotipizzazione ,diseguaglianza e discriminazione a causa delle classificazioni e delle categorizzazioni su cui essa si basa.Essa può condurre infatti a scelte che compromettono l’interesse dei singoli a un trattamento algoritmico equo e corretto,vale a dire,l’interesse a non essere soggetti a pregiudizi ingiustificati in seguito a elaborazioni automatiche.
Gli algoritmi costruiscono un modello di apprendimento automatico che assegna agli individui un punteggio che riflette la probabilità che l’individuo abbia la caratteristica predetta dal sistema..Sulla base di tale punteggio l’individuo viene classificato in un certo modo.Infine il sistema suggerisce o adotta la decisione collegata alla classificazione attribuita all’individuo.
Sebbene , in taluni ambiti,le determinazioni algoritmiche risultano migliori di quelle adottate anche da individui esperti ,l’algoritmo ha un’ampia discrezionalità di errore e discriminazione: in pochi casi parliamo di discriminazione diretta ,cioè basare le proprie previsioni su caratteristiche vietate ,come razza,etnia e genere.Più spesso il risultato di una determinazione algoritmica comporta una discriminazione indiretta ,cioè che avrà un impatto sfavorevole e sproporzionato su individui appartenenti a certi gruppi,senza giustificazioni accettabili.
Ad esempio ,supponiamo che un responsabile delle risorse umane di un’azienda non abbia mai assunto candidati di una certa etnia a causa di un suo pregiudizio e che gli individui appartenenti a tale etnia abitino in certi quartieri della città.Un insieme di addestramento basato sulle decisioni di tale dirigente insegnerebbe al sistema a non selezionare gli individui residenti in quei quartieri ,comportando il mancato accoglimento delle domande di assunzione provenienti da coloro che appartengano all’etnia discriminata.
Per determinare l’impatto sociale delle decisioni algoritmiche ,non basta confrontarle con decisioni umane sugli stessi temi,ma bisogna considerare la pervasività e l’economicità della predizione e decisione automatica ,che può trovare applicazione anche in ambiti nei quali decisioni umane non sarebbero state possibili.Grazie all’efficienza delle elaborazioni automatiche ,gli individui possono essere oggetto di molte più valutazioni e decisioni personalizzate.Di conseguenza si possono adottare maggiormente determinazioni errate e discriminatorie .
Inoltre,la disponibilità di valutazioni automatiche può di per se avere conseguenze pregiudizievoli,come ad esempio di indurre i decisori a trattare in modo iniquo le persone che si trovano in circostanze di bisogno non riconosciute dal sistema.
In sintesi,l’idea che solo le decisioni di routine,e non quelle che coinvolgono condizioni di incertezza,discrezionalità e valutazioni, possano essere affidate agli algoritmi è oggi superata.
I sistemi di IA possono benissimo operare con successo anche in ambiti in cui mancano criteri precisi e univoci,e quindi anche in settori tradizionalmente affidati all’intuizione umana ,allenata con l’esercizio ( ex diagnosi medica,o investimenti finanziari).
La sfida per il futuro è trovare le migliori combinazioni tra intelligenza umana e artificiale integrandole tra loro e tenendo conto delle potenzialità di ciascuna.Inoltre,l’IA può essere utilizzata per controllare le sue stesse applicazioni,così da individuare eventuali difetti nei meccanismi della decisione automatica e aiutare nella predisposizione di contestazioni.
LA RESPONSABILITA’ ALGORITMICA: I PROBLEMI DI IMPARZIALITA’ ,EFFICIENZA E TRASPARENZA NELLA P.A.
Tutto ciò apre al tema della responsabilità algoritmica ,vale a dire l’insieme dei principi e delle regole che stabiliscono chi deve rispondere legalmente dei danni ,degli errori o delle decisioni discriminatorie generate dai sistemi di IA e algoritmi.
Nel dibattito contemporaneo sul rapporto tra intelligenza artificiale e pubblica amministrazione si è introdotta la tematica dell’algoritmo come garante ultimo dell’imparzialità amministrativa.L’obiettivo è quello di creare una giustizia procedurale emancipata dalle debolezze della natura umana quale corruzione,negligenza e arbitrio.Un sistema computazionale ,si argomenta,non conosce favoritismi ,non cede a tentazioni e quindi l’automazione decisionale si configurerebbe come il compimento tecnico del principio costituzionale di imparzialità.
Tuttavia,questa visione si basa sulla confusione tra imparzialità formale e neutralità sostanziale ,tra efficienza procedurale e giustizia materiale. Come osservava già il Consiglio di Stato in una pronuncia del 2019 ,l’utilizzo di tecniche algoritmiche può garantire “ l’esclusione di interferenze dovute a negligenza o dolo del funzionario”.,realizzando così una “maggior garanzia di imparzialità della decisione automatizzata “.Ma questa imparzialità corrisponde davvero all’ideale costituzionale che informa l’azione amministrativa?
Innanzitutto,occorre smontare il mito della neutralità del dato.Infatti il dato non è mai semplicemente “dato”,ma è sempre “da dare “,frutto di scelte metodologiche ,categorie interpretative ,decisioni circa ciò che merita di essere osservato e ciò che può essere trascurato.
Quando ,dunque,un algoritmo viene addestrato su dati storici relativi ,ad esempio,all’aggiudicazione di appalti pubblici in contesti caratterizzati da pratiche corruttive endemiche,non può miracolosamente “epurare” quei dati dalle loro distorsioni.Al contrario,il sistema apprende proprio quelle regolarità patologiche ,trasformandole in parametri predittivi e normalizzandole come standard di riferimento.
La questione più radicale che l’automazione decisionale pone al diritto pubblico è di natura etica prima ancora che tecnica:ci si chiede se un sistema privo di coscienza morale può assumersi la responsabilità di scelte che incidono su diritti e interessi dei cittadini.
Un algoritmo può ottimizzare una funzione obiettivo ,ma non può interrogarsi sul senso di quella funzione .Non conosce l’ambiguità ,la contraddizione ,il conflitto interiore che caratterizza ogni autentica scelta morale.L’intelligenza artificiale è in senso proprio ,pre-morale :non sceglie ,non calcola e non delibera, applica.
Ciò ha conseguenze giuridiche decisive :la responsabilità amministrativa presuppone sempre un soggetto capace di intendere e volere ,un “agente” chiamato a rispondere delle proprie scelte.
Il punto è che l’automazione produce quella che potremmo definire “apatia decisionale” : l’essere umano ,progressivamente disabituato all’esercizio del giudizio critico ,finisce per limitarsi a ratificare ciò che la macchina ha già determinato.Ma delegando sempre più,pensa sempre meno ,così che la responsabilità formale resta ,la responsabilità sostanziale evapora.
Un secondo argomento frequentemente invocato a sostegno dell’automazione amministrativa è quello dell’efficienza.L’intelligenza artificiale promette velocità ,precisione, economicità ;ed è qui che emerge il teso rapporto tra efficienza e giustizia.
L’efficienza è neutrale rispetto ai fini: può servire il bene comune come può consolidare l’ingiustizia.
Un algoritmo può assegnare risorse o aggiudicare contratti con straordinaria rapidità ,ma non può valutare se quelle decisioni realizzano equità distributiva ,se rispettano la dignità delle persone coinvolte e se servono autenticamente l’interesse pubblico.
Il diritto amministrativo è soprattutto un diritto dei valori ,cioè imparzialità ,trasparenza ,partecipazione e proporzionalità.Principi che richiedono ponderazione,bilanciamento,contestualizzazione che nessun algoritmo può effettuare.
Un altro problema è la trasparenza.
I sistemi di intelligenza artificiale ,specialmente quelli basati su reti neurali profonde,operano secondo logiche che sfuggono spesso alla comprensione dei loro stessi creatori.
Ci si chiede come può un cittadino esercitare il proprio diritto di difesa contro una decisione automatizzata di cui non comprende le ragioni?Come può l’amministrazione motivare adeguatamente un provvedimento quando il percorso logico che ha condotto a quella determinazione è computazionalmente opaco ? Come si concilia l’obbligo di trasparenza con l’inscrutabilità degli algoritmi ?
Il Codice dell’amministrazione digitale riconosce alle pubbliche amministrazioni il potere-dovere di usare le tecnologie dell’informazione per realizzare obiettivi di efficienza e economicità ,ma sempre nel rispetto dei principi di trasparenza e partecipazione.Ma la trasparenza non è possibile quando il processo decisionale si consuma in strati sovrapposti di funzioni matematiche non interpretabili
Alcune amministrazioni hanno intrapreso la via dell’automazione nel controllo degli appalti pubblici e nella prevenzione della corruzione.Tuttavia,è essenziale distinguere tra utilizzi diversi della tecnologia .Una cosa è impiegare sistemi di dati analitici per identificare anomalie che meritano un approfondimento da parte di funzionari umani e un’altra è delegare all’algoritmo la decisione finale ,trasformandolo da strumento ausiliario in sostituto del decisore pubblico.
La soluzione dell’algoritmo come supporto alla decisione umana appare compatibile con i principi costituzionali ,a condizione che vengano garantite la verificabilità dei criteri utilizzati ,la possibilità di contestare le segnalazioni automatiche ,la formazione adeguata del personale chiamato a interpretare i risultati.La soluzione della piena automazione decisionale solleva invece dubbi che non possono essere risolti mediante espedienti terminologici o aggiustamenti normativi marginali.
In conclusione ,l’intelligenza artificiale rappresenta indubbiamente un ‘opportunità straordinaria per il miglioramento dell’azione amministrativa.Ma non si può abbracciarla acriticamente e ciò di cui abbiamo bisogno non è un’etica “dell’IA” ma un’etica “per l’IA” : la delega algoritmica può considerarsi legittima entro certi limiti.L’etica algoritmica ,se non vogliamo diventi una vuota “morale della macchina” deve restare saldamente ancorata alla responsabilità umana.
Il principio di imparzialità amministrativa ex art.97 Cost. ,non può essere ridotto a coerenza computazionale ,richiede qualità solamente umane.
L’algoritmo può vigilare,ma non può giudicare ,può segnalare ma non decidere , può assistere ma non sostituire.Il confine di ciò è il confine stesso tra amministrazione e automatismo ,tra diritto e calcolo.
Il vero problema non è l’ errore dell’IA,ma quando non ci chiede più di pensare.
