La trappola dell’autonomia artificiale e il ritorno necessario dell’umano

Fonte: Il Sole 24 Ore – «La trappola matematica dell’autonomia AI e la necessità dell’umano», Paolo Benanti, dicembre 2025.

L’illusione dell’agente autonomo

L’articolo di Paolo Benanti affronta uno dei nodi più delicati dell’attuale fase dell’intelligenza artificiale: la promessa dell’autonomia. Gli agenti AI vengono presentati come sistemi capaci di percepire l’ambiente, prendere decisioni e agire senza intervento umano continuo. Una narrazione potente, che alimenta l’idea di una delega sempre più ampia alle macchine. Ma dietro questa promessa si nasconde un equivoco strutturale: l’autonomia non coincide con affidabilità. E, soprattutto, non elimina la responsabilità di chi progetta, distribuisce e utilizza questi sistemi.

La matematica dell’errore cumulativo

Il cuore dell’analisi non è filosofico, ma matematico. Benanti richiama un principio semplice e spesso rimosso: nei processi complessi, anche errori minimi tendono ad accumularsi. Un agente che opera attraverso lunghe sequenze decisionali può mantenere un’alta accuratezza locale e fallire clamorosamente sul risultato finale. È la cosiddetta “trappola dell’errore composto”: più cresce la complessità del compito, più la probabilità di un esito corretto si riduce drasticamente. L’autonomia, in questo senso, non è una conquista lineare, ma una zona di rischio crescente.

Quando l’AI supera il suo ambito naturale

L’articolo mostra come gli agenti AI funzionino meglio in contesti ristretti, ripetitivi e ben delimitati. Estrazione di dati, sintesi, classificazione, supporto a decisioni circoscritte: qui l’automazione genera valore. Il problema nasce quando questi sistemi vengono spinti oltre il loro “punto di equilibrio”, chiamati a governare processi lunghi, aperti, ad alta incertezza. In questi casi, l’AI non diventa più efficiente: diventa fragile. E l’errore non è più un’eccezione, ma una possibilità strutturale.

La falsa alternativa tra umano e macchina

Benanti rifiuta una contrapposizione semplicistica tra intelligenza umana e artificiale. La vera frontiera non è sostituire l’uomo, ma ridisegnarne il ruolo. L’AI non deve diventare un decisore opaco, ma uno strumento che amplifica il giudizio umano, mantenendo la supervisione, il contesto e la responsabilità nelle mani delle persone. L’autonomia totale non è progresso: è deresponsabilizzazione mascherata da efficienza.

Big Tech e la tentazione della delega totale

Questo ragionamento assume un peso politico quando viene applicato al modello delle Big Tech. L’autonomia degli agenti AI non è solo una scelta tecnica, ma una leva economica: riduce costi, accelera processi, sposta responsabilità. Ma più l’autonomia cresce, più aumenta l’asimmetria tra chi controlla l’algoritmo e chi ne subisce gli effetti. Senza supervisione umana reale, l’errore algoritmico diventa sistemico e invisibile, difficilmente contestabile da cittadini, lavoratori e istituzioni.

Il punto di vista di Algopolio

L’articolo di Benanti rafforza una convinzione centrale di Algopolio: l’AI non è neutra, e l’autonomia non è un valore in sé. Ogni sistema automatizzato incorpora scelte, limiti e interessi. Algopolio opera proprio in questo spazio critico, dove l’innovazione tecnologica rischia di trasformarsi in una perdita di controllo democratico. Difendere il ruolo dell’umano significa difendere trasparenza, responsabilità e possibilità di contestazione.

In un’epoca in cui l’autonomia artificiale viene venduta come inevitabile, ricordare i suoi limiti non è tecnofobia: è lucidità politica. E senza lucidità, l’AI non rende più liberi. Rende solo più dipendenti.