Diritto alla trasparenza sull’IA

Cos’è

Il diritto alla trasparenza sull’IA è il diritto di sapere quando stai interagendo con un sistema di intelligenza artificiale e di comprendere:

• che stai interagendo con un’IA e non con una persona;
• come funziona il sistema;
• su quali dati è stato addestrato;
• quali decisioni o risultati produce;
• chi ne è responsabile.

I due livelli di trasparenza dell’AI Act

Trasparenza minima (tutti i sistemi di IA)

L’Art. 52 impone di informare l’utente quando:

• interagisce con un chatbot o un assistente virtuale basato sull’IA;
• un contenuto è generato dall’IA (testi, immagini, video, audio);
• un sistema di IA classifica o profila le persone;
• un sistema di IA riconosce le emozioni.

Trasparenza rafforzata (sistemi di IA ad alto rischio)

L’Art. 50 impone di fornire una documentazione dettagliata su:

• finalità del sistema;
• prestazioni, limiti e rischi;
• dati di addestramento;
• misure di supervisione umana;
• accuratezza, robustezza e sicurezza.

A cosa serve la trasparenza

Consapevolezza

• Sai con chi, o con che cosa, stai interagendo.
• Eviti l’inganno di credere di parlare con una persona.

Comprensibilità

• Capisci come l’IA prende le sue decisioni.
• Puoi valutare l’affidabilità dei risultati.

Responsabilità

• Identifichi chi risponde del sistema.
• Sai a chi rivolgerti per un reclamo.

Quando si applica: trasparenza minima (Art. 52)

Chatbot e assistenti virtuali

Quando interagisci con:

• assistenti conversazionali basati sull’IA (ChatGPT, Claude, Gemini);
• chatbot del servizio clienti sui siti web;
• assistenti vocali (Alexa, Siri, Google Assistant).

L’obbligo:

• un avviso chiaro: «Stai interagendo con un’IA»;
• prima dell’interazione o al suo inizio;
• in un linguaggio semplice e visibile.

Eccezioni. L’avviso non è obbligatorio se:

• è ovvio dal contesto (per esempio sul sito di un assistente IA, dove è già chiaro);
• il sistema assiste in modo evidente una persona (un «copilota» dichiarato).

Contenuti generati dall’IA (deepfake, immagini, testi)

Quando un contenuto è creato o manipolato dall’IA.

Immagini e video:

• foto generate con strumenti come Midjourney, DALL-E, Stable Diffusion;
• video deepfake (volto sostituito);
• immagini manipolate con l’IA.

L’obbligo: una filigrana digitale o un’etichetta visibile, come «Immagine generata dall’IA» o «Video manipolato con l’IA».

Audio:

• voci generate o clonate con l’IA;
• musica creata dall’IA;
• podcast sintetici.

L’obbligo: un avviso audio o un testo di accompagnamento, come «Voce generata dall’IA».

Testi:

• articoli scritti dall’IA;
• email automatiche personalizzate;
• report generati da algoritmi.

L’obbligo: l’indicazione «Contenuto generato dall’IA», se non è già evidente.

Eccezioni:

• l’IA usata come assistenza creativa (editing, suggerimenti), quando il controllo finale resta a una persona;
• contenuti IA evidenti per loro natura (per esempio una traduzione automatica).

Quando si applica: trasparenza rafforzata (Art. 50)

Riguarda i sistemi di IA considerati «ad alto rischio» per il loro impatto sui diritti fondamentali:

• lavoro: sistemi HR per la selezione e la valutazione del personale;
• istruzione: sistemi di IA per la valutazione degli studenti;
• finanza: sistemi di IA per la concessione del credito.

La documentazione tecnica obbligatoria

Per ogni sistema ad alto rischio, il fornitore deve preparare una documentazione che contenga:

• la descrizione generale del sistema;
• le finalità previste e il contesto d’uso;
• l’architettura algoritmica;
• i dati di addestramento (provenienza, caratteristiche);
• le prestazioni (accuratezza, precisione, recall);
• i limiti noti;
• i rischi residui;
• le misure per mitigare i bias;
• le procedure di supervisione umana;
• le misure di cybersicurezza.

Accessibilità della documentazione

• Disponibile su richiesta degli utenti e delle autorità.
• In un linguaggio comprensibile, non solo tecnico.
• Aggiornata a ogni modifica del sistema.