Le allucinazioni dell’AI davanti alla giustizia
In questa analisi4 sezioni
Sezione 01 di 04: Quando l’errore non è più tecnico ma istituzionale
Il caso riportato dal Sole 24 Ore segna un punto di rottura simbolico e giuridico: un magistrato utilizza un sistema di intelligenza artificiale per redigere una decisione e finisce per citare precedenti giurisprudenziali inesistenti. Non si tratta di un semplice errore materiale, ma di una distorsione profonda del processo decisionale, dove l’automazione interviene senza un adeguato presidio critico umano. L’“allucinazione” dell’algoritmo diventa così un atto che incide direttamente sulla vita delle persone.
Sezione 02 di 04: L’AI come scorciatoia cognitiva
Il punto centrale non è l’uso dell’intelligenza artificiale in sé, ma il modo in cui essa viene impiegata: come acceleratore acritico del ragionamento giuridico. Quando l’algoritmo sostituisce la verifica delle fonti, il controllo del contesto e la responsabilità dell’interpretazione, la tecnologia smette di essere uno strumento e diventa un rischio sistemico. In ambito giudiziario, questo rischio è amplificato dal fatto che la decisione non è reversibile né neutra.
Sezione 03 di 04: Responsabilità individuale e vuoti di governance
La reazione istituzionale – l’avvio di un procedimento disciplinare – evidenzia una tensione irrisolta: chi risponde dell’errore prodotto con l’ausilio di sistemi automatici? Il magistrato, il software, l’ente che ne ha consentito l’uso? L’episodio mostra quanto la governance dell’AI nelle istituzioni pubbliche sia ancora fragile, affidata più alla fiducia che a regole operative chiare, verificabili e vincolanti.
La posizione di Algopolio
Sezione 04 di 04: Difendere il processo, non solo l’efficienza
Questo caso conferma una posizione che Algopolio sostiene da tempo: l’efficienza tecnologica non può prevalere sulla centralità del processo. L’intelligenza artificiale può supportare, ma non sostituire, la responsabilità cognitiva e giuridica dell’essere umano. Senza un controllo strutturale, l’AI rischia di erodere le garanzie fondamentali proprio là dove dovrebbero essere più solide: nei luoghi della giustizia.
