Un attacco informatico basato sull’intelligenza artificiale è un’intrusione in cui gli strumenti di intelligenza artificiale supportano una o più fasi, quali la ricognizione, l’analisi delle vulnerabilità, la creazione di contenuti di phishing o la generazione di codice, piuttosto che un attacco pianificato ed eseguito da un modello di IA senza l’intervento umano. Gli avvertimenti di OpenAI e Anthropic descrivono proprio questo modello assistito, non attaccanti autonomi basati sull’intelligenza artificiale. |
|---|
Punti di forza
- OpenAI e Anthropic si sono unite ad altre oltre 100 aziende nel lanciare l’allarme secondo cui l'intelligenza artificiale sta abbassando la soglia di competenza necessaria per sferrare attacchi informatici
- CrowdStrike ha documentato una campagna assistita dall’intelligenza artificiale contro le banche sudcoreane che utilizzava strumenti ARTEX basati su un backend DeepSeek, con la presenza anche di cronologie delle sessioni di Claude Code
- Le misure di prevenzione, tra cui la sanificazione dei file e l’analisi pre-esecuzione, riducono l’esposizione al malware generato dall’intelligenza artificiale, ma il rilevamento e la risposta rimangono comunque necessari a complemento di tali misure
- I responsabili della sicurezza possono agire subito: dare priorità alle vulnerabilità ad alto rischio già esposte, rafforzare i controlli di accesso, ispezionare e ripulire i file non attendibili, testare le difese esistenti e verificare la prontezza nella risposta agli incidenti
- Secondo quanto riferito, OpenAI e Anthropic starebbero simulando scenari per il “giorno dopo” in caso di reazione negativa dell’opinione pubblica a seguito di un grave attacco perpetrato con l’ausilio dell’IA, sebbene questa non sia una tempistica confermata da OpenAI
Cosa stanno realmente pianificando OpenAI e Anthropic
OpenAI e Anthropic considerano un grave attacco informatico facilitato dall’intelligenza artificiale come una questione di preparazione. Nell’agosto 2026, le due aziende si sono unite a oltre 100 altre organizzazioni nella firma di una lettera aperta in cui avvertivano che l’IA sta abbattendo le barriere legate ai costi e alle competenze che un tempo rallentavano gli aggressori e invitavano i difensori ad affrontare le vulnerabilità e le configurazioni errate che si sono già accumulate prima che tale cambiamento acceleri. La lettera definisce questa situazione come un rischio condiviso per qualsiasi organizzazione che gestisca infrastrutture esposte, non solo per gli obiettivi di alto profilo.
Tale preparazione si estende anche al modo in cui le aziende si aspettano che il pubblico reagisca. Secondo Axios, OpenAI e Anthropic stanno mettendo a punto in privato piani per il “giorno dopo”, comunicazioni e linee guida di risposta all’indignazione pubblica che seguirebbe un grave attacco facilitato dall’intelligenza artificiale, con fonti che descrivono un arco temporale compreso tra i 6 e i 12 mesi. Tale tempistica deriva dalle fonti di Axios, non da una proiezione pubblicata dalla stessa OpenAI, la quale ha affermato che i propri scenari di preparazione non rappresentano esiti inevitabili.
Per i responsabili della sicurezza, la distinzione conta meno della direzione da seguire. Che si tratti di un orizzonte temporale di sei mesi o di due anni, le aziende che sviluppano questi sistemi di intelligenza artificiale considerano già gli attacchi assistiti come una realtà operativa a breve termine, il che è un motivo sufficiente per dare priorità alle difese di cui parleremo più avanti.
Dove si stanno già verificando attacchi assistiti dall'intelligenza artificiale
Esistono già prove di attacchi perpetrati con l’ausilio dell’intelligenza artificiale, a prescindere dagli avvertimenti su ciò che potrebbe accadere in futuro. Il caso pubblico più evidente è una campagna contro istituzioni finanziarie sudcoreane che CrowdStrike ha documentato in una ricerca su un set di strumenti che l’azienda chiama ARTEX.
Il rapporto di CrowdStrike ha rilevato che l’autore dell’attacco ha utilizzato ARTEX, un framework basato principalmente su un backend DeepSeek, insieme alle cronologie delle sessioni di Claude Code rinvenute nella stessa infrastruttura dell’autore dell’attacco. Il rapporto afferma inoltre che il numero delle organizzazioni colpite rimane ancora da confermare.
La ricerca non indica un prodotto antivirus specifico che non sia riuscito a rilevare l’attività e non fornisce alcun elemento su cui basare una stima della portata di un eventuale incidente futuro. I dati mostrano un insieme eterogeneo di strumenti alla base di una campagna documentata, ma non confermano che un singolo modello di intelligenza artificiale abbia eseguito ogni fase dell’attacco.
La lettera di settore dell'agosto 2026 firmata da OpenAI, Anthropic e oltre 100 altre organizzazioni esprime tuttavia preoccupazione riguardo alla direzione che potrebbero prendere gli attacchi basati sull'intelligenza artificiale, piuttosto che agli attacchi già osservati.
Cosa cambia con l'intelligenza artificiale nel campo degli attacchi informatici
L'intelligenza artificiale cambia l'economia di un attacco: riduce il tempo e le competenze che ogni fase richiedeva in passato. La ricerca delle vulnerabilità ne è l'esempio più evidente. Gli strumenti di intelligenza artificiale sono in grado di analizzare il codice e le configurazioni alla ricerca di punti deboli più rapidamente di un analista che lavora da solo, per poi redigere il codice di exploit una volta individuata una vulnerabilità. Ciò accorcia un processo che in passato richiedeva giorni di lavoro a un team specializzato.
Il coordinamento tra le diverse fasi rappresenta il secondo cambiamento. La campagna ARTEX sopra descritta mostra come gli strumenti di intelligenza artificiale supportino le attività di ricognizione, progettazione e esecuzione nell’ambito di un’unica operazione, collegando fasi che in precedenza richiedevano un team con competenze diverse e sviluppate separatamente.
Nel loro insieme, queste capacità indicano un aumento del numero di tentativi e una maggiore rapidità di iterazione da parte degli autori degli attacchi. Si tratta di un’interpretazione basata sulla ricerca di CrowdStrike e sulle preoccupazioni espresse nella lettera del settore, non di un conteggio confermato dei nuovi attacchi.
La lettera del settore promossa da OpenAI sostiene che le stesse capacità di base dell’IA possano aiutare i responsabili della sicurezza ad affrontare le vulnerabilità e le configurazioni errate che si sono già accumulate, automatizzando la valutazione dei rischi, la verifica delle patch e l’analisi dei log su una scala che i team di sicurezza hanno faticato a raggiungere solo con il personale a disposizione. Gli strumenti di attacco e quelli di difesa si stanno evolvendo sulla base della stessa tecnologia.
Perché la prevenzione deve integrare la diagnosi
Il rilevamento di una minaccia e l’eliminazione del rischio di danno sono due funzioni di sicurezza distinte. Gli attacchi assistiti dall’intelligenza artificiale rendono questa distinzione fondamentale: un’organizzazione che si affida esclusivamente al rilevamento scommette sul fatto che ogni attacco assomigli a qualcosa che ha già visto.
Rilevamento contro prevenzione: qual è il vero ruolo di ciascuno?
- Il rilevamento identifica i comportamenti dannosi, solitamente dopo che un file o un’azione è già presente nell’ambiente, confrontandoli con firme, euristiche o modelli comportamentali noti
- La prevenzione elimina o limita le azioni che un file può compiere prima ancora che venga eseguito, indipendentemente dal fatto che un motore di rilevamento lo riconosca o meno come una minaccia
Il sistema di rilevamento può individuare solo ciò che ha già visto o su cui è stato addestrato. La prevenzione non ha bisogno di riconoscere una minaccia per neutralizzarla.
Dove trova applicazione la tecnologia Deep CDR™
Tecnologia Deep CDR™ è la nostra tecnologia di neutralizzazione e ricostruzione dei contenuti. Anziché eseguire la scansione di un file alla ricerca di modelli dannosi noti, questa tecnologia rimuove i contenuti attivi e ricostruisce il file in una versione pulita e utilizzabile, il che significa che copre anche i file per i quali i motori di rilevamento non dispongono ancora di una firma.
Ciò vale anche per gli attacchi che prendono di mira direttamente i sistemi di intelligenza artificiale. Nell’attacco EvilFont, un font personalizzato rimappa ciò che un documento mostra a un lettore umano rispetto a ciò che un modello di intelligenza artificiale estrae dallo stesso file, senza che vi siano strutture o firme anomale che possano essere rilevate dai sistemi di rilevamento. La tecnologia Deep CDR™ rimuove il font incorporato durante la ricostruzione, bloccando l’attacco indipendentemente dal fatto che venga riconosciuto come dannoso.
La tecnologia Deep CDR™ costituisce uno dei livelli di una serie più ampia di controlli complementari:
- Il controllo dei file verifica il tipo e la struttura dei file prima di considerarli affidabili
- L'analisi pre-esecuzione valuta il comportamento in un ambiente controllato prima che un file raggiunga un utente
- La tecnologia Deep CDR™ rimuove o ricostruisce qualsiasi elemento attivo presente nel file, indipendentemente dal fatto che sia contrassegnato come dannoso
- Il rilevamento e la risposta rimangono necessari per i rischi che non si presentano affatto sotto forma di file
Il ragionamento alla base di un approccio alla sicurezza incentrato sulla prevenzione
Questo caso articolato in più livelli è l’argomento centrale di Cybersecurity Upside Down, il libro scritto da Benny Czarny, fondatore e CEO di OPSWAT . Il libro sostiene che le strategie di sicurezza basate su presupposti di rilevabilità siano sempre più superate per un semplice motivo: i file, quelli che un dipendente apre o che arrivano via e-mail, non sono mai stati affrontati in modo completo solo attraverso la rilevazione, indipendentemente dal fatto che siano stati generati dall’intelligenza artificiale o meno.
Questo approccio è più importante di qualsiasi affermazione specifica relativa alla velocità. Che un malintenzionato abbia utilizzato l’intelligenza artificiale per generare malware o lo abbia scritto manualmente, il rischio è lo stesso: un file raggiunge un sistema prima che qualcuno ne abbia verificato la sicurezza. Le misure di prevenzione eliminano tale rischio, indipendentemente da come il file sia stato prodotto.
Dove trova applicazione l'Aether™ dell MetaDefender
La tecnologia Deep CDR™ è stata progettata per fornire una copia sicura e ricostruita di un file, ma in tre situazioni specifiche è necessario un approccio diverso.
- Alcune organizzazioni devono conservare il file originale, senza modifiche, per motivi legali, di conformità o forensi, e una copia ricostruita, per sua stessa natura, non è quel file
- I file eseguibili, i programmi di installazione e gli script sono attivi per definizione, quindi rimuovere i loro contenuti attivi comporterebbe la perdita delle funzionalità di cui gli utenti hanno bisogno; pertanto, è necessario giungere a una conclusione piuttosto che procedere a una ricostruzione
- Inoltre, un file ripulito, di per sé, non fornisce al team di sicurezza informazioni su quale fosse la minaccia, da dove provenisse o se facesse parte di una campagna più ampia
MetaDefender Aether™ affronta tutti e tre questi aspetti analizzando il file senza alterarlo. Si tratta della nostra soluzione di rilevamento zero-day a cinque livelli, progettata per il malware innovativo ed evasivo che sfugge al rilevamento basato su firme. Il suo livello di analisi statica utilizza l’IA Predictive Alin per prevedere l’intento malevolo prima dell’esecuzione, senza ricorrere a firme o all’esecuzione del codice. I file puliti con un alto grado di affidabilità vengono autorizzati in pochi millisecondi, quelli dannosi con un alto grado di affidabilità vengono bloccati, mentre quelli incerti vengono sottoposti all’analisi dinamica in una sandbox basata sull’emulazione. Gli zero-day confermati in questa fase vengono reimmessi nell’intelligenza artificiale Predictive Alin, rafforzando così il rilevamento futuro.
MetaDefender Aether consente inoltre ai team di scegliere tra velocità e approfondimento. L’analisi incentrata sulla velocità fornisce un risultato nel minor tempo possibile, il che la rende adatta a flussi di file di grandi volumi, mentre l’analisi approfondita privilegia l’estrazione del maggior numero possibile di indicatori di compromissione rispetto alla durata della scansione, il che la rende adatta alle attività di indagine e risposta.
LLM Scanning estende lo stesso approccio all’intelligenza artificiale stessa; MetaDefender Aether rileva le minacce incorporate nei file dei modelli senza eseguire il loro codice e analizza i modelli LLM attivi alla ricerca di iniezioni di prompt e divulgazione di dati sensibili, consentendo così ai team che integrano modelli open source e di terze parti nel proprio ambiente di trattarli come file non affidabili. Se utilizzate insieme, la tecnologia Deep CDR™ neutralizza ciò che può essere ricostruito in tutta sicurezza, mentre MetaDefender Aether analizza ciò che deve rimanere intatto.
Cosa possono fare ora i responsabili della sicurezza
I responsabili della sicurezza non hanno bisogno di un attacco confermato basato sull’intelligenza artificiale per agire. Le stesse organizzazioni che hanno sottoscritto la lettera di settore dell’agosto 2026 indicano cinque aree su cui la maggior parte dei team di sicurezza ha già una visione d’insieme, anche se nessuna di esse è stata considerata prioritaria di recente.
- Risolvere innanzitutto le vulnerabilità note e ad alto rischio: i sistemi esposti a Internet e le vulnerabilità già sfruttate in passato offrono agli aggressori il massimo guadagno. Verificare che la correzione abbia effettivamente funzionato, anziché contrassegnare il ticket come risolto.
- Ridurre i permessi eccessivi: rafforzare i controlli di accesso in modo che un account compromesso o un tentativo di phishing assistito dall'intelligenza artificiale non possa raggiungere i sistemi critici.
- Controllare e disinfettare i file non attendibili prima dell'uso: considerare di default come sospetti i vettori di attacco basati sui file, quali allegati e-mail, download e supporti rimovibili.
- Verificate regolarmente le difese esistenti: cicli di test obsoleti lasciano le vulnerabilità note esposte più a lungo di quanto la maggior parte dei team creda.
- Verificare la prontezza nella risposta agli incidenti e nel ripristino: assicurarsi che i piani di risposta tengano conto di tempistiche di attacco più rapide e assistite dall'intelligenza artificiale, e non solo delle campagne più lente su cui si basavano la maggior parte dei piani.
Il Congresso degli Stati Uniti non ha ancora approvato requisiti vincolanti in materia di sicurezza dell’intelligenza artificiale, e le proposte relative al “kill switch”, oggetto di dibattito fino al 2026, rimangono in fase di stallo. Questo è un motivo in più per agire direttamente su questi cinque punti, piuttosto che attendere un provvedimento normativo che potrebbe richiedere anni.
I team di sicurezza devono comunque proteggere gli stessi elementi presi di mira dagli attacchi assistiti dall'intelligenza artificiale: i file, i punti di accesso e i dati che transitano nei loro sistemi. Integriamo controlli di ispezione, sanificazione e accesso nei punti in cui i contenuti non attendibili entrano in un'organizzazione, tra cui e-mail, trasferimento di file, supporti rimovibili e download dal web.
Se desiderate verificare in che misura tali controlli si applicano ai tipi di file e ai punti di ingresso effettivamente gestiti dalla vostra organizzazione, il nostro team può accompagnarvi in una valutazione del flusso di lavoro.
