L'esplosione dei file generati dall'intelligenza artificiale sta rivoluzionando la sicurezza nei servizi finanziari

Si consideri un ordine di bonifico che arriva sotto forma di PDF apparentemente in regola. Nessun codice errato, nessuna firma nota come non valida, un mittente plausibile, metadati che superano ogni controllo automatico — eppure è interamente falsificato, generato da un modello per pochi centesimi in modo da sembrare esattamente autentico. Nulla nella sua origine lo tradisce, perché non ha mai avuto un autore umano. Scopri di più sulla tecnica di concatenazione dei PDF

La maggior parte dei controlli di sicurezza sui file attualmente in uso si basa su un presupposto tramandato nel tempo: che i file siano creati dalle persone. Tale presupposto determina la frequenza di arrivo, il tasso di accumulo e la definizione di “normale” rispetto alla quale vengono valutate le anomalie. È rimasto valido per decenni, poiché il costo per file era legato allo sforzo umano e il limite massimo di volume era determinato dal numero di dipendenti.

L’IA generativa ha eliminato quel limite. La “datasfera” globale è passata da 45 zettabyte nel 2019 a una previsione di 175 entro il 2025 (un aumento del 289%) e si prevede che raggiunga i 527 entro il 2029 (IDC). Ma il volume è solo la metà meno importante della storia. Il cambiamento più significativo riguarda la fonte: si stima che il 40-50% dei nuovi file aziendali sia ora generato da macchine, spesso senza alcun indizio affidabile che ne attribuisca la paternità a un essere umano.

Il tasso di crescita conferma questa tendenza. La creazione di file aziendali è cresciuta di circa il 20–23% all’anno nell’era pre-IA. Per le organizzazioni che hanno standardizzato i flussi di lavoro basati sull’IA, la crescita totale dei file è ora stimata al 55–68% all’anno. L’adozione dell’IA generativa nelle aziende è quasi raddoppiata in un solo anno, passando dal 33% al 71% (Stanford HAI), e due terzi delle organizzazioni segnalano aumenti misurabili della produttività (Deloitte). Per la prima volta, la creazione di file si è sganciata dalle dimensioni della forza lavoro, e il divario crescente tra queste due curve rappresenta esattamente il nuovo punto di vulnerabilità in termini di sicurezza.

Il settore dei servizi finanziari ha vissuto l’esplosione dei dati prima di qualsiasi altro settore, poiché gestisce tre motori di generazione di dati di cui la maggior parte dei settori non dispone, e l’IA generativa ha accelerato tutti e tre contemporaneamente.

Il primo è rappresentato dai dati sintetici, il fattore trainante più importante ma meno visibile. L’addestramento dei modelli antifrode, antiriciclaggio e di credito richiede dati su una scala limitata dalle normative sulla privacy; l’IA generativa risolve questo vincolo producendo record sintetici statisticamente realistici che raggiungono un’equivalenza di utilità del 96–99% rispetto ai dati di produzione per i test antiriciclaggio. Un singolo istituto può generare miliardi di record per ogni ciclo di addestramento, e ciascuno di essi è un artefatto archiviato, gestito e protetto.

Il secondo è la documentazione KYC, la categoria più misurabile poiché obbligatoria. L’IA ha aumentato la produttività per analista e ha introdotto tipologie di documenti completamente nuove: descrizioni dei rischi generate automaticamente, sintesi di notizie negative sui media, mappe di proprietà. Si prevede che la spesa globale per i sistemi KYC/KYB aumenti di circa il 40%, raggiungendo i 30,5 miliardi di dollari entro il 2030 (Juniper Research), mentre il numero di controlli di verifica dell’identità effettuati in tutto il mondo è salito da 75 miliardi nel 2024 a 86 miliardi nel 2025: ogni controllo corrisponde a un documento da acquisire, archiviare ed esaminare.

Il terzo è l’uso diretto dei modelli di linguaggio di grandi dimensioni (LLM) in ogni funzione (vendite, marketing, affari legali, risorse umane, gestione dei rischi) che in precedenza non era mai stata un’area ad alto volume di produzione. Si stima che la produttività per funzione sia aumentata da tre a cinque volte, e le organizzazioni segnalano un aumento del 54% su base annua dei contenuti che devono produrre (Deloitte). Tre quarti delle società finanziarie del Regno Unito utilizzano già l’IA (Bank of England / FCA), e la percentuale di quelle che segnalano aumenti di produttività è quasi raddoppiata, raggiungendo il 59% in un anno. Gli istituti che generano il maggior numero di file sono proprio quelli che investono in modo più massiccio nella tecnologia che li produce.

Questo è il punto di svolta in cui una questione di produttività diventa una questione di sicurezza. Lo strumento utilizzato per redigere un pitchbook è identico a quello utilizzato per redigere un payload.

Il phishing assistito dall’IA è aumentato di oltre dieci volte (+1.265%) da quando l’IA generativa è diventata di uso comune, con oltre l’82% delle e-mail di phishing rilevate che ora contengono contenuti generati dall’IA. La falsificazione di documenti digitali è cresciuta del 244% su base annua nel 2024. Kaspersky registra circa 500.000 file dannosi al giorno. Inoltre, la percentuale di aziende che segnalano tentativi di frode d’identità tramite deepfake è passata dal 37% al 49% in due anni. Le minacce veicolate dai file stanno aumentando con la stessa curva dei file legittimi, poiché la stessa tecnologia è in grado di produrre entrambi.

Il vocabolario che utilizziamo per riferirci ai file non è più adeguato a ciò che i file sono diventati. Un file non è più un contenitore passivo che rimane inattivo finché qualcuno non lo apre. È sempre più spesso un IntelligentFILE: qualsiasi file che contenga intelligenza incorporata (tra cui dati, istruzioni, identità o codice) in grado di innescare un’azione conseguente quando viene elaborato, aperto o trasmesso.

La caratteristica distintiva di IntelligentFILE è la sua duplice natura. Lo stesso oggetto può essere una risorsa per il business, la conformità e la fiducia — oppure un’arma. Un pacchetto KYC ha valore legale e comporta conseguenze a valle per ogni decisione presa sulla sua base. Un set di dati sintetico AML diventa la fonte di verità per un modello che governa milioni di transazioni. Un rapporto di conformità generato dall’IA è legittimo se gestito correttamente e diventa un vettore di attacco se non lo è. Un PDF contenente malware è progettato per superare i controlli superficiali ed eseguirsi una volta all’interno del sistema. Un ordine di bonifico generato dall’IA è accurato dal punto di vista contestuale, corrispondente alla controparte e strutturalmente indistinguibile dall’originale.

La differenza tra la versione collaborativa e quella ostile è raramente visibile a prima vista, ed è proprio questo il problema principale.

La maggior parte dei controlli attualmente in uso deduce il rischio da una proprietà che i file generati automaticamente non possiedono più in modo affidabile. I motori anti-malware basati su firme partono dal presupposto che la minaccia sia già stata rilevata in precedenza, ma i modelli generativi producono payload inediti privi di firme note. I gateway di posta elettronica partono dal presupposto che i file pericolosi arrivino tramite e-mail, ma oggi i file entrano nel sistema tramite caricamenti sul cloud, API, moduli web, portali e strumenti di collaborazione. La classificazione presuppone che i file contengano segnali di paternità e metadati puliti, ma i file generati automaticamente ne sono privi, mentre i dati sintetici imitano i veri record dei clienti.

La provenienza presuppone che l’origine sia indicativa della sicurezza, ma l’origine è sempre più spesso un modello che va oltre i confini dell’istituzione.

Ecco cos’è il “Protection Gap”: non si tratta del fallimento di un singolo strumento, bensì di una discrepanza architettonica tra controlli progettati per file creati e gestiti dall’uomo, a un ritmo umano, e una mole di file che non risponde a nessuna di queste caratteristiche.

Se non è più possibile fidarsi dell’origine, il punto di controllo deve essere adeguato. La sicurezza deve passare dal rilevare le minacce dopo che un file è entrato nell’ambiente all’ispezionare e sanificare ogni file al momento dell’acquisizione, indipendentemente dall’origine dichiarata e dal fatto che un singolo motore lo segnali come sospetto. La provenienza passa dall’essere qualcosa che si deduce a qualcosa che si impone.

In pratica ciò significa: privilegiare la prevenzione rispetto al rilevamento; considerare ogni canale come un punto di ingresso; neutralizzare i file ricostruendoli per rimuovere i contenuti attivi, anziché limitarsi a rilevare solo quelli notoriamente dannosi; non affidarsi mai a un unico motore di rilevamento; e trattare i dati di origine automatizzata e quelli sintetici come una classe di dati regolamentata a sé stante.

Il mercato sta già orientandosi in questa direzione: il 96% dei responsabili della sicurezza considera ormai l’intelligenza artificiale un elemento fondamentale della propria difesa informatica (EY), a fronte di un costo medio delle violazioni pari a circa 4,4 milioni di dollari (IBM).

Le misure di sicurezza adeguate non devono necessariamente rallentare l'attività che l'intelligenza artificiale ha accelerato. Tuttavia, i controlli perimetrali garantiscono che l'esplosione del volume dei file aumenti la produttività senza ampliare in misura proporzionale la superficie di attacco non protetta.