Progettati per eludere i controlli: l’industrializzazione degli attacchi informatici da parte dell’intelligenza artificiale

• L'intelligenza artificiale ha rivoluzionato l'economia degli attacchi. Realizzare una campagna che un tempo richiedeva un team ben finanziato è ora alla portata di un singolo operatore.
• Gli autori degli attacchi sono ora in grado di testare, adattare e variare le proprie tattiche più rapidamente di quanto molti sistemi di difesa siano in grado di reagire.
• Gli esseri umani non sono più l'unico bersaglio. I sistemi di intelligenza artificiale che leggono le e-mail per loro conto sono diventati a loro volta una superficie di attacco.
• Oggi la sicurezza consiste in controlli a più livelli che migliorano continuamente, grazie all’intelligenza artificiale e all’apprendimento automatico che ne accelerano il processo di apprendimento.

La maggior parte dei responsabili della sicurezza sa già che l’intelligenza artificiale sta trasformando il panorama dei rischi informatici. La domanda più complessa è cosa comporti tale cambiamento dal punto di vista operativo. L’intelligenza artificiale sta rendendo gli attacchi più sofisticati? A volte sì. Ma, cosa ancora più importante, riduce i costi della sperimentazione e accorcia i tempi che intercorrono tra l’ideazione, la creazione del payload, la distribuzione e l’iterazione. Questo cambia l’economia dell’attacco.

È ciò che stiamo già osservando sul mercato e che ci viene riferito dai nostri clienti, partner e centri di ricerca. Secondo The Five Eyes, un’alleanza di servizi di intelligence che comprende Stati Uniti, Regno Unito, Canada, Australia e Nuova Zelanda, «si prevede che i modelli di IA all’avanguardia supereranno le attuali aspettative del settore, trasformando radicalmente sia le capacità informatiche offensive che quelle difensive. Non si tratta di anni, ma di mesi».

Se pensate che si tratti di una preoccupazione per un futuro lontano, ecco alcune statistiche recenti che indicano che ci stiamo dirigendo rapidamente in quella direzione:

• L'82,6% delle e-mail di phishing contiene ormai l'intelligenza artificiale in qualche forma (KnowBe4).
• L'intelligenza artificiale è in grado di generare un'e-mail di phishing convincente in cinque minuti, contro le 16 ore necessarie a una persona (IBM X-Force).
• Le e-mail di phishing completamente automatizzate tramite IA registrano un tasso di clic del 54%, contro il 12% delle campagne tradizionali (ricerca indipendente).
• Il tempo medio necessario per sferrare un attacco informatico è sceso a 29 minuti, con il caso più rapido registrato a 27 secondi. In un’intrusione documentata, l’esfiltrazione dei dati è iniziata quattro minuti dopo l’accesso iniziale (Rapporto globale sulle minacce 2026 di CrowdStrike)

Queste statistiche descrivono un panorama che evolve a un ritmo più rapido di quanto la maggior parte dei sistemi di governance della sicurezza sia in grado di gestire, e questo prima ancora che i modelli di IA all’avanguardia diventino più accessibili. Quindi, a cosa dovrebbero prestare maggiore attenzione i responsabili della sicurezza? La risposta parte dalla comprensione di come l’IA abbia modificato l’economia dell’attacco stesso.

Prima dell’avvento dell’intelligenza artificiale, condurre una campagna efficace contro un’organizzazione ben protetta rappresentava un investimento considerevole, che richiedeva tempo, personale e infrastrutture.

Oggi, un operatore esperto è in grado di ridurre drasticamente la durata di ogni fase dell’attacco. La ricognizione, che un tempo richiedeva giorni, ora può essere completata in poche ore o minuti. Le esche di phishing, che prima richiedevano ricerche e impegno, ora richiedono solo un semplice comando. Il test del payload, che necessitava di un ambiente di staging e di tempi di iterazione significativi, ha subito un’accelerazione di diversi ordini di grandezza.

Con l’intelligenza artificiale e l’apprendimento automatico a potenziare il proprio arsenale, il panorama delle minacce è diventato il terreno di gioco degli aggressori. Microsoft ha documentato come, nel corso del trimestre, gli hacker abbiano alternato mensilmente i metodi di diffusione, verificando quali formati riuscissero a eludere più efficacemente le difese della posta elettronica:

• Gli allegati HTML rappresentavano il metodo più diffuso per diffondere attacchi di phishing protetti da CAPTCHA (37% a gennaio), ma a febbraio sono stati superati dai file SVG, che hanno registrato un picco del 49%.
• A marzo, gli allegati in formato PDF sono più che quadruplicati, mentre quelli in formato DOC/DOCX sono aumentati di quasi cinque volte.
• I codici QR incorporati nei file PDF sono diventati il vettore in più rapida crescita, rappresentando il 70% degli attacchi di phishing basati su codici QR nel corso del trimestre.

Un sistema di controllo calibrato per rilevare il codice HTML a gennaio forniva indicazioni molto limitate su ciò che sarebbe arrivato a marzo. Non si tratta di un fallimento nel rilevamento. È una conseguenza strutturale della difesa contro un aggressore in grado di testare, misurare e cambiare strategia più rapidamente di quanto sia possibile scrivere una firma.

Prima dell'avvento dell'intelligenza artificiale, la personalizzazione aveva un costo proibitivo. Ora, quel costo è quasi pari a zero.

Un tempo la posta in arrivo era progettata pensando a un unico destinatario principale: il dipendente. Ma le cose stanno cambiando. Gli assistenti basati sull’intelligenza artificiale sono ora in grado di riassumere, classificare e agire sui contenuti delle e-mail con estrema rapidità. La domanda quindi è: le organizzazioni stanno controllando i contenuti prima che un essere umano li legga e prima che una macchina li elabori?

I dati di benchmarking forniti dalla stessa Microsoft mostrano che Defender rimuove in media il 70,8% delle e-mail dannose dopo la consegna, ovvero dopo che queste hanno già raggiunto la posta in arrivo. Durante quel periodo di permanenza:

• Un utente può aprire un allegato, inoltrare un messaggio o cliccare su un link.
• Un assistente basato sull'intelligenza artificiale può riassumere il contenuto.
• Un copilota è in grado di elaborare istruzioni incorporate.

Nel giugno 2025, alcuni ricercatori hanno reso nota EchoLeak, una vulnerabilità zero-click presente in Microsoft 365 Copilot con un punteggio CVSS di 9,3 su 10 in termini di gravità. L’attacco funzionava nel modo seguente: un malintenzionato inviava un’e-mail appositamente creata contenente istruzioni nascoste. Quando il destinatario chiedeva a Copilot di riassumere la propria casella di posta in arrivo, l’IA leggeva l’istruzione nascosta, la interpretava come un comando e trasferiva silenziosamente documenti sensibili su un server esterno. L’utente utilizzava l’assistente IA esattamente come era stato progettato per essere utilizzato.

Ciò modifica il modello di minaccia relativo alle e-mail in un modo che la maggior parte delle architetture di sicurezza non ha ancora preso in considerazione. L’intelligenza artificiale legge senza lo scetticismo, la consapevolezza contestuale o l’istinto che un essere umano potrebbe avere. Inoltre, legge su larga scala, con accesso a una mole più ampia di dati, con autorizzazioni ereditate dall’utente e, talvolta, con la capacità di intraprendere azioni che vanno ben oltre la semplice lettura.

Esiste una seconda dimensione di questa sfida alla sicurezza. Le ricerche sulla memoria degli agenti di intelligenza artificiale hanno dimostrato che un documento appositamente creato ed elaborato da un agente di intelligenza artificiale può inserire istruzioni nella memoria persistente dell’agente, istruzioni che sopravvivono a tempo indeterminato e si attivano silenziosamente in occasione di interazioni future che non hanno nulla a che vedere con il file originale. Si tratta di un livello superiore all’iniezione di prompt, e viene definito “avvelenamento della memoria”.

Le organizzazioni che utilizzano copiloti basati sull’intelligenza artificiale, assistenti alla programmazione e flussi di lavoro automatizzati integrati nella propria infrastruttura di posta elettronica hanno aggiunto un secondo livello, in gran parte non protetto, a un’area che già faticavano a difendere. La maggior parte di esse non ha adeguato il proprio sistema di sicurezza della posta elettronica per tenerne conto.

Per anni, molti programmi di sicurezza si sono evoluti seguendo cicli prestabiliti: revisioni annuali, ottimizzazioni trimestrali, esercitazioni teoriche periodiche e aggiornamenti programmati delle politiche. Questo ritmo ha ancora un suo valore. Tuttavia, non è stato concepito per far fronte ad attacchi in grado di mutare rapidamente e su larga scala.

La risposta è la difesa adattiva: livelli di sicurezza che apprendono man mano che la minaccia si evolve, che migliorano ad ogni tentativo bloccato, ad ogni falso positivo e ad ogni analisi degli incidenti. I modelli di intelligenza artificiale all’avanguardia, utilizzati a scopo difensivo, possono contribuire a ridurre il tempo che intercorre tra il rilevamento di un segnale e l’azione, individuare schemi che gli analisti umani non sono in grado di elaborare alla velocità richiesta ed evolvere i controlli in modo da stare al passo con il ritmo con cui gli attacchi si trasformano.

Tale adattamento deve inoltre tenere conto del nuovo "lettore" presente nella casella di posta. Un dipendente può essere istruito a mantenere un atteggiamento scettico, mentre un assistente basato sull’intelligenza artificiale agisce in base a ciò che elabora in assenza di criteri di sicurezza. I messaggi e gli allegati devono essere considerati non affidabili e neutralizzati prima che qualsiasi "lettore" vi acceda, sia esso una persona o una macchina.

La difesa basata sull'intelligenza artificiale deve essere pratica e sfruttare i propri punti di forza: triage più rapido, identificazione precoce dei file sospetti, migliore correlazione tra i segnali e riduzione del tempo che intercorre tra l'individuazione della minaccia e l'adattamento.

Le organizzazioni che avranno successo saranno quelle in grado di considerare ogni incidente come una fonte di informazioni piuttosto che come un ticket chiuso. Aspettare che i quadri normativi si adeguino non è una strategia di difesa valida. Gli aggressori stanno già imparando da ogni tentativo, e anche i difensori hanno iniziato a fare lo stesso, utilizzando l’intelligenza artificiale e l’apprendimento automatico per analizzare, individuare e bonificare le e-mail.

Per quanto riguarda in particolare le infrastrutture critiche, esiste una responsabilità aggiuntiva che la normativa da sola non è in grado di definire. Con l’accelerarsi della digitalizzazione, cresce di pari passo anche la superficie di attacco di queste organizzazioni. La strategia di sicurezza non può basarsi esclusivamente sui requisiti minimi previsti dalla normativa.

La dichiarazione congiunta dei Five Eyes lo afferma chiaramente: «Il rischio informatico non può più essere considerato una questione puramente tecnica. Si tratta di un rischio aziendale fondamentale e di una responsabilità della leadership». E riguardo alla questione dell’urgenza: «I leader che agiscono ora ridurranno l’esposizione al rischio, rafforzeranno la resilienza e consolideranno la fiducia di clienti, partner e investitori. Chi invece temporeggia dovrà affrontare un rischio crescente e evitabile».

Un approccio più resiliente parte da difese a più livelli ai confini, dall’adattamento assistito dall’intelligenza artificiale nel modello operativo e dall’aspettativa che il miglioramento continuo debba diventare una pratica standard. Il punto è se le vostre difese si stanno evolvendo abbastanza rapidamente da stare al passo con i tempi.

Questo aspetto assume particolare rilevanza proprio dove la posta in gioco è più alta, ovvero nelle infrastrutture critiche e nelle reti isolate (air-gapped) che ne costituiscono il nucleo, ed è proprio da lì che parte il prossimo articolo.