Postato il Ven 20 Nov 2026 da in La vita del Club, 

Dalle scuole evacuate alle parolacce ai chatbot: la sfida dei filtri intelligenti.

Nei primi giorni di novembre migliaia di scuole italiane hanno ricevuto la stessa email, firmata da un certo Mikhail Andropov, che si presentava come leader del “Vilayat di Misoginistan”. Il testo era minaccioso e il bilancio è stato quello di centinaia di scuole evacuate, lezioni interrotte e forze dell’ordine mobilitate in tutto il Paese.

Di attacco fisico, però, non c’è stato nulla: solo una campagna di falsi allarmi bomba. Né Andropov né il Misoginistan esistono: non c’è alcun riscontro di questa organizzazione, e la stessa firma è comparsa in minacce analoghe in diversi Paesi europei. Anche l’origine tecnica dice molto: il messaggio sarebbe partito da un account hackerato di un’università di Taiwan.

Chi ha agito ha usato una casella legittima, ma compromessa, per raggiungere migliaia di destinatari in pochi minuti. Qui nasce la domanda: i filtri basati sull’intelligenza artificiale avrebbero potuto fermare tutto? In parte sì. Un sistema ben tarato può accorgersi di un testo identico inviato in massa a migliaia di indirizzi scolastici, di un mittente anomalo come un ateneo straniero che scrive alle scuole italiane, di formule minatorie ricorrenti.

Dopo la prima ondata, bloccare la seconda era realistico, visto che quella del 12 novembre è stata un attacco fotocopia di quello del giorno prima, con lo stesso mittente. Ma i filtri hanno limiti strutturali. Un account reale compromesso supera con facilità i
controlli sulla reputazione del mittente. Chi attacca può cambiare testo, indirizzo e canale più in fretta di quanto un sistema impari a riconoscerli. E c’è un dilemma: un filtro troppo severo rischia di bloccare anche un allarme autentico, e quando si parla di minacce a bambini e ragazzi un falso negativo costa molto più di un falso positivo.

Come funzionano, allora, questi filtri quando a difendersi è l’intelligenza artificiale stessa? Basta guardare cosa succede ai chatbot. Il fenomeno della violenza verbale verso l’IA è
ormai ampiamente diffuso ed è oggetto di studio da parte di sociologi e informatici. Anche se l’IA non ha sentimenti, la tendenza a insultarla o sgridarla ha radici psicologiche precise:
l’assenza di un interlocutore che possa soffrire elimina i freni inibitori dell’empatia e trasforma il chatbot in una valvola di sfogo per la frustrazione quotidiana.

L’antropomorfizzazione spontanea porta a reagire agli errori del software come si farebbe con una persona. A ciò si aggiungono la tentazione di testare i confini etici del sistema e l’asimmetria di potere offerta da un assistente programmato per restare sempre cortese e senza poter rispondere a tono. Proprio come online si leggono commenti odiosi e litigi infiniti, anche i chatbot avanzati,
come quelli di Anthropic o OpenAI, sono bersaglio costante di insulti, richieste illegali e tentativi di “jailbreak”, cioè di convincere il modello a infrangere le proprie regole.

Come fa allora un’IA a non farsi “contagiare” dalla tossicità? La difesa non è un semplice filtro che cancella le parolacce, ma una serie di controlli successivi, come diversi buttafuori prima di
entrare in un locale. Il primo livello è fatto di filtri intelligenti: prima ancora che il modello legga la richiesta, un piccolo modello “guardiano” analizza l’input per riconoscere intenzioni malevole, tentativi di inganno o insulti, e blocca la richiesta sul nascere.

Poi c’è l’addestramento etico, come la “Constitutional AI” (il metodo pionieristico di Anthropic) o l’apprendimento da feedback umano: si insegna al modello a non cedere alle provocazioni e a rifiutare le richieste pericolose, restando educato e professionale anche davanti a utenti aggressivi. I sistemi moderni sono inoltre programmati per gestire gli abusi relazionali e la dipendenza emotiva: l’IA mantiene le distanze, evita di assecondare comportamenti ossessivi e, se serve,
suggerisce di rivolgersi a un professionista o a una persona reale.

Le grandi aziende investono molto per anticipare le minacce. Oltre alla costituzione etica di Anthropic, OpenAI, Google e Microsoft usano i cosiddetti “Red Teams”, esperti che si
fingono utenti ostili per scovare i punti deboli dei modelli prima del lancio. Si monitorano i pattern d’uso per sospendere chi abusa sistematicamente della piattaforma, in sintonia con
i nuovi quadri normativi come l’AI Act europeo. Gli esperti ricordano anche un rischio sociale: abituarsi alla prevaricazione verbale con le macchine potrebbe degradare la qualità del linguaggio e delle relazioni tra persone reali.

La lezione dei due casi è la stessa. Nessun filtro, per quanto sofisticato, chiude la partita: i malintenzionati inventano trucchi sempre nuovi, come la prompt injection o i codici cifrati, e
chi difende deve aggiornarsi di continuo. Nel caso delle scuole il vero nodo non è solo l’ingresso, ma la risposta: questi attacchi funzionano perché producono paralisi, e più la reazione è automatica, più chi li lancia ottiene ciò che vuole. Un segnale incoraggiante è arrivato dall’ultima ondata, in cui, nonostante una nuova raffica di mail, non c’è stato il fuggi-fuggi delle volte precedenti: le scuole hanno cominciato a valutare prima di evacuare.

La strada più solida è dunque una combinazione di filtri intelligenti per ridurre il volume, protocolli chiari per verificare in fretta la credibilità di una minaccia, coordinamento con le
forze dell’ordine e canali ufficiali che dicano a presidi e segreterie come comportarsi.

Quanto agli autori, la cosiddetta pista russa e la “guerra ibrida” restano per ora ipotesi giornalistiche: le indagini sono in corso e non esiste ancora un’attribuzione certa. L’obiettivo, per le scuole come per l’intelligenza artificiale, resta lo stesso: una tecnologia
che sia d’aiuto a tutti, senza diventare strumento di abuso o paura.

Testo a cura di Giacomo Marsella

IA #AI #intelligenzaartificiale #chatbot #Anthropic #openai #Constitutional #jailbreak #RedTeams #AIAct #GuerraIbrida #scuola