Falsi con l’AI nelle chat dei ragazzi: quando la paura diventa un contenuto virale

01/05Sezione 01 di 05: Cosa è successo

Nei giorni successivi ai disordini di Milano del 17 e 18 ottobre 2026, nelle chat di studenti di diverse città del Nord Italia hanno cominciato a circolare messaggi allarmanti: cortei violenti annunciati, aggressioni imminenti, presunte violenze sessuali contro studentesse all’uscita da scuola, talvolta con elenchi di istituti. Nessuno di questi fatti è avvenuto. Eppure molte famiglie hanno tenuto i figli a casa e le forze dell’ordine hanno presidiato scuole e stazioni.

Una parte di quel materiale era costruita con l’intelligenza artificiale. A Cremona sono bastati un video generato con l’AI, che mostrava centinaia di ragazzi incappucciati in corteo, e una chat di gruppo per far sbarrare le vetrine dei negozi e mobilitare polizia e carabinieri. Due ragazzi di 14 e 15 anni sono stati denunciati per istigazione a delinquere e procurato allarme. Il ministro dell’Istruzione e del Merito, Giuseppe Valditara, ha detto che chi sarà riconosciuto responsabile di procurato allarme verrà punito.

Negli stessi giorni è emerso a Genova un caso di altra natura: due studenti di 14 anni hanno usato l’AI per creare immagini di nudo di alcune loro insegnanti e le hanno diffuse nella chat di classe. Finiti davanti al Tribunale per i minorenni con l’accusa di revenge porn, non sono stati condannati dopo aver seguito un percorso riabilitativo.

02/05Sezione 02 di 05: Perché conta

Sono fenomeni diversi con una radice comune. Gli strumenti di AI rendono banale produrre falsi credibili, e i canali in cui i ragazzi comunicano, chat di gruppo e piattaforme di video brevi, li moltiplicano prima che qualcuno li verifichi. Secondo il Corriere della Sera, i messaggi hanno raggiunto migliaia di studenti e per entrare in una di quelle chat bastava un clic. Alberto Ferrari, presidente a Cremona dell’Anp, l’associazione dei dirigenti scolastici, ha osservato che il falso si poteva riconoscere con un minimo di attenzione, ma che è bastato a scatenare «un’isteria collettiva».

I minori compaiono su entrambi i lati: come bersagli, a partire dalle ragazze indicate come vittime designate, e come autori, ragazzi di 14 anni che con pochi gesti producono un danno reale ad altre persone.

03/05Sezione 03 di 05: Le regole che ci sono

Dal 10 ottobre 2025 il codice penale prevede il reato di illecita diffusione di contenuti generati o alterati con sistemi di intelligenza artificiale (art. 612-quater), introdotto dalla legge n. 132 del 2025. Punisce con la reclusione da uno a cinque anni chi cagiona un danno ingiusto diffondendo senza consenso immagini, video o voci falsificati con l’AI e idonei a ingannare sulla loro autenticità.

Sul piano europeo, l’AI Act prevede obblighi di trasparenza per i contenuti generati artificialmente, compresi i deepfake (art. 50). Il Digital Services Act impone alle grandi piattaforme di valutare e attenuare i rischi sistemici, compresi quelli per i minori e per la sicurezza pubblica (artt. 34 e 35).

04/05Sezione 04 di 05: La responsabilità delle piattaforme

Nell’intervista al Corriere della Sera del 22 ottobre sui disordini di Milano e sul ruolo delle chat, il francescano Paolo Benanti, esperto di etica delle tecnologie, ha chiesto ai social di rendere subito trasparente alle autorità ciò che è accaduto, ricordando che le interazioni generano ricavi per le piattaforme mentre i costi ricadono sulla società.

È il punto centrale. Punire chi crea un falso è necessario, ma non spiega perché un falso raggiunga migliaia di studenti così rapidamente. La velocità della diffusione dipende anche da sistemi di raccomandazione che premiano ciò che suscita reazioni, e la paura è tra le reazioni più forti.