Le allucinazioni dell’AI davanti alla giustizia

Fonte: Il Sole 24 Ore – “Le allucinazioni AI non risparmiano il giudice”, gennaio 2026.

Quando l’errore non è più tecnico ma istituzionale

Il caso riportato dal Sole 24 Ore segna un punto di rottura simbolico e giuridico: un magistrato utilizza un sistema di intelligenza artificiale per redigere una decisione e finisce per citare precedenti giurisprudenziali inesistenti. Non si tratta di un semplice errore materiale, ma di una distorsione profonda del processo decisionale, dove l’automazione interviene senza un adeguato presidio critico umano. L’“allucinazione” dell’algoritmo diventa così un atto che incide direttamente sulla vita delle persone.

L’AI come scorciatoia cognitiva

Il punto centrale non è l’uso dell’intelligenza artificiale in sé, ma il modo in cui essa viene impiegata: come acceleratore acritico del ragionamento giuridico. Quando l’algoritmo sostituisce la verifica delle fonti, il controllo del contesto e la responsabilità dell’interpretazione, la tecnologia smette di essere uno strumento e diventa un rischio sistemico. In ambito giudiziario, questo rischio è amplificato dal fatto che la decisione non è reversibile né neutra.

Responsabilità individuale e vuoti di governance

La reazione istituzionale – l’avvio di un procedimento disciplinare – evidenzia una tensione irrisolta: chi risponde dell’errore prodotto con l’ausilio di sistemi automatici? Il magistrato, il software, l’ente che ne ha consentito l’uso? L’episodio mostra quanto la governance dell’AI nelle istituzioni pubbliche sia ancora fragile, affidata più alla fiducia che a regole operative chiare, verificabili e vincolanti.

Difendere il processo, non solo l’efficienza

Questo caso conferma una posizione che Algopolio sostiene da tempo: l’efficienza tecnologica non può prevalere sulla centralità del processo. L’intelligenza artificiale può supportare, ma non sostituire, la responsabilità cognitiva e giuridica dell’essere umano. Senza un controllo strutturale, l’AI rischia di erodere le garanzie fondamentali proprio là dove dovrebbero essere più solide: nei luoghi della giustizia.