Diritto all’intervento umano

Cos’è

Il diritto all’intervento umano è il diritto di chiedere che una persona fisica, e non un algoritmo, riveda, supervisioni o prenda una decisione quando sei sottoposto a sistemi di intelligenza artificiale, soprattutto se:

• la decisione dell’IA ha un impatto significativo sui tuoi diritti;
• ritieni che la decisione dell’IA sia errata, ingiusta o discriminatoria;
• la situazione richiede una comprensione del contesto che l’IA non ha.

Cosa impone l’AI Act (Art. 14)

I sistemi di IA ad alto rischio devono essere progettati con una supervisione umana efficace, che permetta alla persona di:

• comprendere capacità e limiti dell’IA;
• restare consapevole dell’automazione, senza fidarsi troppo;
• interpretare correttamente i risultati dell’IA;
• decidere quando non usare o non seguire l’IA;
• intervenire o interrompere il sistema;
• annullare la decisione dell’IA.

Tre modelli di decisione

Decisione solo dell’IA

• L’algoritmo decide in autonomia.
• Nessuna persona è coinvolta.
• Il risultato dell’IA è la decisione finale.

Decisione dell’IA con supervisione umana (quella richiesta dall’AI Act)

• L’IA fornisce una raccomandazione o una proposta.
• Una persona rivede il risultato.
• La persona ha l’autorità finale sulla decisione.
• La persona può discostarsi dall’IA.

Decisione umana assistita dall’IA

• La persona usa l’IA come strumento di supporto.
• Mantiene il pieno controllo.
• L’IA non prende decisioni.

I livelli di supervisione umana

• Human-in-the-loop (la persona nel processo): ogni decisione dell’IA richiede l’approvazione umana; la persona la rivede prima dell’esecuzione. È il massimo controllo.
• Human-on-the-loop (la persona supervisiona): l’IA opera in autonomia, la persona monitora e interviene quando necessario.
• Human-in-command (la persona al comando): la persona può disattivare o modificare il sistema; la responsabilità finale e il controllo strategico restano umani.

L’AI Act richiede almeno uno di questi livelli per i sistemi ad alto rischio.

Dove l’intervento umano è obbligatorio: i sistemi di IA ad alto rischio

Lavoro e risorse umane

Sistemi di IA per la selezione del personale

Lo scenario: ti candidi per una posizione; l’IA esamina i CV, analizza i video-colloqui, assegna un punteggio e «raccomanda» quali candidati invitare.

Il tuo diritto:

• la decisione finale non può spettare solo all’algoritmo;
• un recruiter deve rivedere i risultati dell’IA;
• puoi chiedere: «Voglio che una persona riveda la mia candidatura».

Come esercitarlo:

«In merito alla mia candidatura per [posizione]: se è stato utilizzato un sistema di IA per lo screening, ai sensi dell’Art. 14 dell’AI Act chiedo 1) la revisione umana della mia candidatura; 2) una valutazione non basata solo sul risultato algoritmico; 3) un colloquio con una persona fisica, se previsto nella fase successiva. L’AI Act richiede la supervisione umana sui sistemi di IA ad alto rischio, come quelli per la selezione del personale.»

Sistemi di IA per la valutazione delle prestazioni

Lo scenario: l’IA monitora la produttività dei dipendenti, assegna un punteggio e suggerisce promozioni o licenziamenti.

Il tuo diritto:

• un responsabile deve rivedere le valutazioni dell’IA;
• puoi contestare il punteggio e chiedere una revisione umana;
• le decisioni finali (promozione, licenziamento) devono coinvolgere una persona.

Credito e finanza

Sistemi di IA per la valutazione del merito creditizio

Lo scenario: chiedi un mutuo o un prestito; l’IA analizza il tuo merito creditizio e genera un punteggio con una raccomandazione (approvare o rifiutare).

Il tuo diritto:

• la decisione finale non può essere solo dell’IA;
• un funzionario della banca deve rivederla;
• puoi chiedere: «Voglio una revisione umana della mia richiesta».

Come esercitarlo:

«In merito alla richiesta di prestito del [data]: se la decisione negativa si basa su un sistema di IA, ai sensi dell’Art. 22 GDPR e dell’Art. 14 dell’AI Act chiedo 1) la revisione umana della mia pratica; 2) una valutazione che consideri gli elementi non colti dall’IA; 3) un colloquio con un funzionario per spiegare la mia situazione. Resto disponibile a fornire documentazione aggiuntiva.»

Sistemi di IA per il pricing assicurativo

Lo scenario: chiedi una polizza; l’IA calcola un premio personalizzato molto alto, o rifiuta la copertura.

Il tuo diritto:

• una persona deve rivedere il prezzo calcolato dall’IA;
• puoi contestarlo e chiedere una spiegazione da parte di una persona.

Istruzione

Sistemi di IA per la valutazione degli studenti

Lo scenario: un esame viene corretto dall’IA, che assegna il voto; il voto decide l’ammissione o la bocciatura.

Il tuo diritto:

• un docente deve rivedere le correzioni dell’IA;
• puoi chiedere una revisione umana se ritieni il voto ingiusto;
• le decisioni critiche (come l’ammissione all’università) devono coinvolgere una persona.

Come esercitarlo:

«In merito alla valutazione dell’esame di [materia] del [data]: se la correzione è stata effettuata da un sistema di IA, chiedo la revisione da parte di un docente qualificato. L’Art. 14 dell’AI Act richiede la supervisione umana sui sistemi di IA ad alto rischio in ambito educativo.»

Servizi pubblici

Sistemi di IA per l’accesso ai servizi sociali

Lo scenario: chiedi un sussidio o un beneficio sociale; l’IA valuta i requisiti, determina l’idoneità e nega l’accesso.

Il tuo diritto:

• un funzionario pubblico deve rivedere la decisione;
• puoi chiedere di essere ascoltato da una persona;
• la decisione finale deve considerare le circostanze particolari.

Sistemi di IA per l’assegnazione degli alloggi pubblici

Lo scenario: chiedi una casa popolare; l’IA assegna un punteggio di priorità e determina la graduatoria.

Il tuo diritto:

• una commissione deve rivedere le graduatorie prodotte dall’IA;
• puoi contestare la tua posizione e chiedere una nuova valutazione umana.

Giustizia

Sistemi di IA a supporto delle decisioni giudiziarie

Lo scenario: l’IA valuta il rischio di recidiva di un imputato e suggerisce una pena o una misura cautelare; il risultato influenza il giudice.

Il tuo diritto, rafforzato:

• decide sempre il giudice; l’IA è solo un supporto;
• il giudice non può delegare la decisione all’IA;
• l’imputato ha diritto a un processo equo, con una decisione umana.

Sanità

Sistemi di IA per la diagnostica medica

Lo scenario: l’IA analizza radiografie ed esami, suggerisce una diagnosi e raccomanda una terapia.

Il tuo diritto:

• un medico deve rivedere i risultati dell’IA;
• non può affidarsi ciecamente all’IA;
• il paziente ha diritto a un secondo parere umano.

Quando chiedere l’intervento umano

La decisione dell’IA ti sembra sbagliata

Motivi tipici:

• l’IA non ha considerato circostanze particolari;
• si è basata su dati incompleti o superati;
• ha applicato criteri rigidi, inadatti al tuo caso.

Esempio: l’IA della banca rifiuta il prestito perché il tuo punteggio creditizio è basso. Ma hai appena cambiato lavoro e ora il tuo reddito è stabile: l’IA non ha considerato la nuova situazione. Chiedi una revisione umana che valuti il contesto.

La decisione dell’IA potrebbe essere discriminatoria

Motivi tipici:

• l’IA potrebbe avere bias legati a genere, età, origine etnica;
• il risultato sembra ingiustificatamente negativo;
• altre persone in una situazione simile sono state trattate diversamente.

Esempio: l’IA delle risorse umane scarta la tua candidatura e sospetti un bias di genere, in un settore a prevalenza maschile. Chiedi una revisione umana, senza il bias algoritmico.

La situazione è complessa e l’IA non la capisce

Motivi tipici:

• il contesto richiede empatia e comprensione umana;
• ci sono circostanze eccezionali non previste dall’algoritmo;
• ci sono sfumature che l’IA non coglie.

Esempio: l’IA dell’assicurazione calcola un premio alto in base all’età. Ma sei un ultramaratoneta in ottima salute: l’IA considera solo l’età, un fattore statistico. Chiedi una valutazione umana che tenga conto del tuo stato di salute reale.

La decisione ha un impatto molto significativo

• Un licenziamento.
• Il diniego di un mutuo per la casa.
• La bocciatura a un esame decisivo.
• La negazione di un sussidio essenziale.

Per le decisioni con un forte impatto sulla vita delle persone, il diritto all’intervento umano è rafforzato.