Diritto di contestare le decisioni dell’IA

Cos’è

Il diritto di contestare le decisioni dell’IA è il diritto di impugnare risultati, raccomandazioni o decisioni prodotti da sistemi di intelligenza artificiale quando ritieni che siano:

• errati (errore tecnico, dati sbagliati);
• ingiusti (non considerano il contesto o le circostanze particolari);
• discriminatori (bias algoritmici legati a genere, età, origine etnica e altro);
• lesivi dei tuoi diritti.

Cosa prevede l’AI Act

Il reclamo all’autorità (Art. 86)

Le persone fisiche che ritengono di aver subito una violazione dell’AI Act possono presentare reclamo all’autorità competente:

• l’autorità nazionale di vigilanza sull’IA;
• in Italia: AGCOM (coordinamento), Garante Privacy e le altre autorità di settore.

L’autorità deve:

• esaminare il reclamo;
• indagare sulla violazione;
• informarti dell’esito;
• adottare le misure appropriate (sanzioni, ordini di adeguamento).

Il ricorso al giudice (Art. 85)

Se il reclamo viene respinto o ignorato:

• puoi fare causa al fornitore del sistema di IA;
• il tribunale può annullare la decisione, riconoscere un risarcimento, ordinare la rimozione del sistema.

Differenza con il reclamo interno del DSA (Art. 20)

Reclamo DSA (piattaforme online):

• contestazione della moderazione dei contenuti;
• reclamo interno alla piattaforma;
• riguarda le decisioni di moderazione.

Reclamo AI Act (sistemi di IA ad alto rischio):

• contestazione di decisioni algoritmiche con un impatto rilevante;
• reclamo a un’autorità pubblica;
• riguarda qualsiasi decisione di un sistema di IA ad alto rischio.

Le due tutele possono sovrapporsi: se una piattaforma usa l’IA per moderare i contenuti, puoi usarle entrambe.

Le decisioni dell’IA che puoi contestare

Lavoro

L’IA ha scartato la tua candidatura. Motivi di contestazione:

• ha scartato il CV per parole chiave mancanti, anche se le competenze c’erano;
• ha valutato negativamente il video-colloquio per un bias (accento, genere, età);
• ha applicato criteri rigidi, non adatti al ruolo.

L’IA ha valutato negativamente le tue prestazioni. Motivi:

• misura la produttività con metriche quantitative e ignora la qualità;
• non considera fattori esterni (malattia, carichi di lavoro variabili);
• un punteggio basso espone al rischio di licenziamento.

L’IA ti ha negato una promozione. Motivi:

• ti ha classificato «non pronto» senza considerare i risultati ottenuti;
• ha bias contro i gruppi sottorappresentati;
• i suoi criteri non sono trasparenti.

Credito

L’IA ha rifiutato un mutuo o un prestito. Motivi di contestazione:

• il punteggio creditizio è errato (dati superati o incompleti);
• non considera il miglioramento recente della tua situazione finanziaria;
• applica penalizzazioni generiche, non adatte al tuo caso.

Istruzione

L’IA ti ha assegnato un voto basso. Motivi di contestazione:

• ha corretto l’esame con criteri rigidi, senza valutare il ragionamento;
• ha penalizzato la forma (la grammatica) ignorando il contenuto;
• non riconosce risposte equivalenti formulate in modo diverso.

L’IA ti ha negato l’ammissione all’università. Motivi:

• ha valutato solo i voti, ignorando le attività extracurricolari e la motivazione;
• ha un bias a favore delle scuole prestigiose e penalizza chi viene da scuole meno note;
• i suoi criteri non sono trasparenti o non sono appropriati.

Servizi pubblici

L’IA ti ha negato un sussidio o un beneficio sociale. Motivi di contestazione:

• valuta solo parametri economici formali, ignorando il disagio reale;
• non considera le spese necessarie (cure mediche, assistenza ai familiari);
• la sua decisione contraddice la valutazione dell’assistente sociale.

L’IA ti ha assegnato una priorità bassa per un alloggio pubblico. Motivi:

• usa un punteggio automatico che penalizza ingiustamente;
• non considera l’urgenza (sfratto, emergenza abitativa);
• altre persone in situazioni simili o peggiori hanno un punteggio più alto.

Giustizia

L’IA ti ha attribuito un alto rischio di recidiva. Motivi di contestazione:

• usa fattori discriminatori (quartiere di residenza, contesto sociale);
• non considera il percorso di riabilitazione e il cambiamento di vita;
• un punteggio alto porta a misure cautelari più severe o al rifiuto della libertà condizionale.

Diritti rafforzati:

• la contestazione con l’assistenza di un legale;
• il giudice deve motivare se segue la raccomandazione dell’IA;
• il diritto a un processo equo prevale sul risultato dell’IA.

Sanità

L’IA ha suggerito una diagnosi o una terapia inappropriata. Motivi:

• ha analizzato le immagini mediche, ma con un errore di interpretazione;
• suggerisce un protocollo standard inadatto alle comorbidità;
• non considera l’anamnesi completa.

Il tuo diritto di contestare:

• un secondo parere medico umano;
• esami integrativi;
• una nuova valutazione diagnostica.