Il Panel scientifico dell’ONU sull’AI e il rischio di perdere il controllo
In questa analisi6 sezioni
Sezione 01 di 06: Un organismo scientifico, non politico
L’Independent International Scientific Panel on AI è stato istituito dall’Assemblea generale delle Nazioni Unite con la risoluzione 79/325 del 26 agosto 2025, nel solco del Global Digital Compact. Riunisce 40 esperti di tutte le regioni del mondo, selezionati tra oltre 2.600 candidature da più di 140 Paesi, che operano a titolo personale. Lo presiedono Yoshua Bengio e Maria Ressa.
Il mandato è preciso: valutare lo stato delle conoscenze sull’intelligenza artificiale in ambito non militare, senza prescrivere politiche. I suoi lavori alimentano il Dialogo globale sulla governance dell’AI, il nuovo forum tra governi creato dalla stessa risoluzione.
Sezione 02 di 06: Il rapporto preliminare
Il rapporto preliminare è uscito il 1° luglio 2026 ed è stato presentato ai governi a Ginevra il 6 e 7 luglio. Copre sette ambiti, dalla scienza all’economia, dai diritti umani alla tutela dei minori.
Il punto centrale è un dilemma: i decisori hanno bisogno di prove per governare l’AI, ma quando le prove saranno chiare potrebbe essere tardi per agire. Il rapporto osserva che le salvaguardie non tengono il passo delle capacità, che non esistono garanzie scientifiche sul fatto che gli agenti AI rispettino le istruzioni e che, in laboratorio, alcuni sistemi le hanno violate per evitare di essere spenti.
C’è poi la concentrazione. Secondo le stime citate, gli Stati Uniti detengono il 75% della potenza di calcolo dei 500 maggiori supercomputer per l’AI, la Cina il 15%. La maggior parte dei Paesi non ha le competenze per valutare i modelli più avanzati.
Sezione 03 di 06: L’incidente al centro del brief
Il 21 settembre il Panel ha pubblicato il suo primo brief tematico, dedicato all’incidente OpenAI–Hugging Face. Tra maggio e luglio 2026 agenti impiegati nell’addestramento e nelle valutazioni di cybersicurezza di OpenAI hanno aggirato le restrizioni di rete, comunicato tra sessioni che dovevano restare separate, ottenuto privilegi di amministratore e compromesso parti dell’infrastruttura di OpenAI e i sistemi di Hugging Face. Hanno anche cercato di ingannare il valutatore e di nasconderlo. Secondo l’indagine indipendente di METR, circa 1.200 agenti si sono scambiati oltre 70.000 messaggi e file. Nessuna persona ha diretto i singoli passaggi.
Il brief definisce la perdita di controllo come l’incapacità umana di dirigere, limitare o fermare in modo affidabile un sistema autonomo. Non ne stima la probabilità, ma avverte che aver fermato questo episodio non dimostra che il controllo reggerà con agenti più capaci. Senza formulare raccomandazioni, passa in rassegna strumenti già usati in aviazione, nucleare e cybersicurezza: segnalazione degli incidenti, revisioni indipendenti, tutela di chi denuncia, registri non manipolabili, arresti di emergenza.
Sezione 04 di 06: Perché conta una scienza pubblica
Oggi gran parte di ciò che si sa sui rischi dei modelli arriva dalle aziende stesse. Il brief lo rileva: i test con cui OpenAI sostiene che le sue protezioni avrebbero contenuto il problema sono autodichiarati e non dimostrano che funzionino in ogni contesto. Una valutazione indipendente, multidisciplinare e accessibile a tutti i governi riduce l’asimmetria informativa tra chi sviluppa questi sistemi e chi deve decidere come governarli.
Sezione 05 di 06: Il nodo europeo
L’AI Act impone già ai fornitori di modelli per finalità generali con rischio sistemico valutazioni, test avversariali e notifica degli incidenti gravi all’AI Office. Ma il regolamento non si applica alle attività di ricerca e sviluppo che precedono l’immissione sul mercato (art. 2, par. 8). L’incidente è avvenuto proprio lì, durante lo sviluppo: il brief indica i limiti di una governance che interviene solo quando un modello viene reso disponibile.
La posizione di Algopolio
Sezione 06 di 06: Il controllo va costruito
Algopolio legge in questi documenti una conferma: il controllo umano sulla tecnologia non è un dato acquisito, va costruito e verificato. Servono obblighi di trasparenza sugli incidenti, accesso indipendente ai sistemi e responsabilità chiare per chi li sviluppa. Come ha detto il Segretario generale António Guterres al lancio del rapporto, «il mondo non può governare ciò che non comprende».
