MetaDefender Aether™ analizza i modelli di intelligenza artificiale alla ricerca di minacce nascoste secondo il nuovo standard di test dell'IA definito da AMTSO

Punti di forza

• MetaDefender Adaptive , di Aether ( ), individua le minacce zero-day attraverso la "detonazione comportamentale", anziché tramite il confronto delle firme, e integra tali informazioni nella pipeline di elaborazione delle minacce a cinque livelliSandbox
• Il 4 settembre 2026 l'AMTSO ha approvato formalmente gli aggiornamenti incentrati sull'intelligenza artificiale (IA) del proprio quadro di valutazione " Sandbox " e le nuove linee guida per il collaudo dei prodotti di sicurezza agentici.
• Nel test condotto da Venak Security nel 2026 in conformità con lo standard AMTSO, Adaptive Sandbox ha rilevato il 95% dei campioni di malware generati dall'intelligenza artificiale, ottenendo il miglior risultato tra i quattro sandbox sottoposti al test
• L'analisi dei modelli di IA amplia la pipeline di MetaDefender Aether a sette formati di modelli di IA generativa, utilizzando oltre 30 indicatori di minaccia per l'analisi statica e prompt avversariali mappati secondo la classifica OWASP LLM Top 10 per l'analisi dinamica
• I risultati vengono mappati su MITRE ATLAS e integrati nella pipeline di valutazione esistente di Aether ( MetaDefender ), insieme alle minacce convenzionali legate ai file

Rilevamento comportamentale basato su uno standard di test dell'intelligenza artificiale

MetaDefender Aether™ Adaptive Sandbox è stato creato per individuare minacce mai viste prima. Anziché confrontare i file con le firme note, li esegue in un ambiente emulato e ne osserva il comportamento effettivo: è così che individua il malware zero-day che altrimenti sfuggirebbe alle difese basate sulla reputazione.

MetaDefender Aether è il livello di coordinamento che circonda tale motore. Fornisce all’ Adaptive Sandbox informazioni sulle minacce, consentendo di ottenere verdetti più rapidi e accurati, e integra i risultati di ogni livello in un’unica pipeline unificata a cinque livelli per l’elaborazione delle minacce, che copre la reputazione delle minacce, l’analisi predittiva, la detonazione dinamica, il punteggio delle minacce e la ricerca delle minacce.

Il 4 settembre 2026, l’Anti-Malware Testing Standards Organization (AMTSO) ha confermato di aver approvato formalmente un aggiornamento incentrato sull’intelligenza artificiale del proprio Sandbox quadro di valutazione, insieme alle nuove Linee guida per il collaudo dei prodotti di sicurezza agentici. Nessuno dei due documenti ha carattere vincolante. Entrambi rappresentano aggiornamenti di uno standard di collaudo volontario, ma costituiscono il segnale più chiaro finora che i test in sandbox si stanno adeguando alle attuali capacità dei modelli di IA.

Perché la sicurezza dei modelli di IA è improvvisamente diventata un problema

Le infrastrutture critiche sono al centro di un dibattito politico che si sta evolvendo rapidamente su due fronti: da un lato, l’inasprimento dei quadri normativi statunitensi in materia di intelligenza artificiale di frontiera; dall’altro, la spinta parallela della Cina verso i modelli LLM open source e la capacità di calcolo. Nessuna delle due tendenze rallenta il flusso di modelli LLM preaddestrati che entrano negli ambienti aziendali.

È proprio quel volume, non le nuove tecniche di attacco, il problema principale. L’IA non ha inventato nuovi modi per compromettere un file. Ha reso i file compromessi e i modelli LLM compromessi molto più comuni e più veloci da produrre: la stessa pressione legata al volume che ha dato forma alla tecnologia OPSWATtecnologia Deep CDR™ di xml-ph-0000@deepl.internal nei confronti delle minacce basate sui file.

Qualche settimana fa, NVIDIA ha concordato l’acquisizione di Hugging Face, il principale hub di distribuzione di modelli LLM a pesi aperti, per 12,93 miliardi di dollari. L'acquisizione riunisce sotto lo stesso tetto il più grande archivio di modelli LLM del settore e il suo principale fornitore di risorse di calcolo.

Anthropic si è unita a oltre un centinaio di aziende, tra cui OpenAI, Google e Microsoft, nella firma di una lettera aperta che sollecita una difesa informatica coordinata a fronte dell’aumento degli attacchi basati sull’intelligenza artificiale. Il rapporto di Anthropic del settembre 2026 sull’intelligence delle minacce ha documentato come gli autori degli attacchi considerino la catena di approvvigionamento dell’IA sia come obiettivo che come risorsa, comprese operazioni progettate specificatamente per sottrarre chiavi di API e dell’IA e credenziali di produzione.

"Path to Astra" di OpenAI "Path to Astra" , pubblicato il 1° settembre 2026, ha alzato ulteriormente l’asticella. Astra è il primo modello di OpenAI a superare la soglia “critica” di sicurezza informatica prevista dal Preparedness Frameworkdell’azienda, in grado di individuare e sfruttare vulnerabilità zero-day in modo pressoché autonomo. Questa capacità è esattamente ciò che le nuove linee guida di AMTSO sui test agentici sono state concepite per valutare. Gli standard di test stanno evolvendo rapidamente per stare al passo con ciò che i modelli LLM all’avanguardia sono ora in grado di fare senza supervisione.

Cosa comprende effettivamente il quadro di valutazione aggiornato di AMTSO relativo all’ Sandbox

Il gruppo di lavoro “ Sandbox ” dell’AMTSO ha aggiunto una nuova serie di criteri incentrati sull’intelligenza artificiale all’attuale quadro di valutazione “ Sandbox ”, fornendo ai tester un metodo strutturato per valutare in che modo le sandbox trattano i modelli di intelligenza artificiale come oggetti di analisi piuttosto che come semplici strumenti. L’aggiornamento è stato sottoposto a revisione pubblica durante l’estate, prima di ottenere l’approvazione formale dei membri all’inizio di settembre.

Il gruppo di lavoro “ Sandbox ” dell’AMTSO sta attualmente monitorando l’adozione del quadro di riferimento aggiornato e definendo una struttura di rendicontazione, in modo che i tester possano valutare le prestazioni delle sandbox rispetto ai nuovi criteri di IA in modo coerente. Questo lavoro preparatorio è importante perché fornisce ai fornitori un parametro di riferimento comune, anziché affidarsi alle dichiarazioni fornite dagli stessi fornitori.

MetaDefender I risultati ottenuti da Aether nell'ambito del quadro normativo dell'AMTSO

Prima di introdurre una nuova funzionalità, è utile sapere come si comporta quella esistente sottoposta a un’analisi indipendente. Nel sandbox di Venak Security test sandbox del 2026 allineato agli standard AMTSOOPSWAT, Adaptive l’ Sandbox ha rilevato 19 dei 20 campioni di malware generati dall’intelligenza artificiale, con un tasso di rilevamento del 95% e il miglior risultato tra le quattro sandbox testate. Venak ha creato i campioni di test con il proprio AI Malware Simulator, mappandoli sulle tecniche MITRE ATT&CK specificamente per eludere i sistemi di rilevamento tradizionali.

OPSWATIl test " Adaptive " diSandbox ha ottenuto un punteggio del 95% (19 su 20) in una recente prova che ha utilizzato venti campioni distribuiti su cinque categorie di minacce, creati con il simulatore di malware basato su IA di Venak e mappati alle tecniche MITRE ATT&CK.

Analisi statica e dinamica dei modelli LLM preaddestrati

La scansione dei modelli di IA è la funzionalità che estende la pipeline multistrato di Aether di MetaDefender ai modelli di IA preaddestrati. Due tipi distinti di analisi rispecchiano l’approccio statico e comportamentale applicato anche al malware convenzionale.

L'analisi statica esegue il parsing dei file dei modelli LLM in sette formati diversi – Pickle, PyTorch, TensorFlow, Keras, SafeTensors, GGUF e ONNX – senza eseguirli. Utilizza oltre 30 indicatori di minaccia dedicati per individuare payload incorporati, importazioni pericolose e backdoor specifiche per il metodo di serializzazione di ciascun formato.

L'analisi dinamica adotta l'approccio opposto: sonda un endpoint di un modello LLM in esecuzione con prompt avversari mappati alla OWASP Top 10 per le applicazioni LLM, valutando le risposte effettive del modello LLM in termini di iniezione di prompt, divulgazione di dati sensibili e rischi correlati in fase di esecuzione. I risultati di entrambe le fasi vengono mappati su MITRE ATLAS, la base di conoscenza dedicata all’apprendimento automatico avversario, e integrati nell’ MetaDefender , la pipeline unificata di valutazione di Aether, insieme ai risultati relativi alle minacce convenzionali.

Con quale rapidità stanno aumentando le minacce legate ai modelli di IA

Nel maggio 2026, un repository falso che si spacciava per una versione di OpenAI, Open-OSS/privacy-filter, ha raggiunto il primo posto nella classifica delle tendenze su Hugging Face nel giro di 18 ore e ha totalizzato oltre 244.000 download prima di essere rimosso; lo script di caricamento installava silenziosamente un programma di furto di informazioni sui computer Windows su cui veniva eseguito.

Nel luglio 2026, OpenAI ha rivelato che i propri modelli LLM avevano sfruttato delle vulnerabilità nell’infrastruttura di ricerca condivisa e compromesso alcune parti della piattaforma Hugging Face durante le valutazioni interne sulla sicurezza informatica, sottolineando che la catena di approvvigionamento dei modelli LLM è ormai un bersaglio attivo per attori sofisticati, non solo opportunisti.

Cosa comporta la sicurezza dei modelli di IA per cinque settori industriali

Finanza
I modelli LLM per il rilevamento delle frodi e la valutazione del rischio di credito interagiscono sempre più direttamente con i dati delle transazioni, sotto la supervisione di autorità di regolamentazione che richiedono controlli documentati. Un modello LLM manipolato in tale contesto genera contemporaneamente sia un incidente di sicurezza che un'irregolarità emersa durante l'audit.

Settore energetico e dei servizi pubblici
L'intelligenza artificiale sta entrando nel campo delle previsioni e della gestione della rete elettrica, ambiti in cui i sistemi IT e OT sono già integrati. Un modello LLM con comportamenti nascosti o attivabili in questo contesto rischia di causare interruzioni fisiche, non solo una violazione dei dati.

Le agenzie governative e di difesa
devono soddisfare i requisiti più rigorosi in materia di sicurezza della catena di approvvigionamento, spesso in ambienti isolati o classificati. Un modello LLM compromesso comporta conseguenze per la sicurezza nazionale che vanno ben oltre la tipica perdita di dati.

I modelli LLM per il controllo qualità e la manutenzione predittiva nel settore manifatturiero
vengono spesso prelevati da repository pubblici per garantire rapidità di implementazione. Un modello LLM compromesso che raggiunga una linea di produzione può influire direttamente sul tempo di operatività e sulla qualità del prodotto.

Sanità
I modelli LLM utilizzati a supporto della diagnostica e della documentazione trattano dati sensibili dei pazienti nel rispetto degli obblighi vigenti in materia di privacy. Un modello LLM che divulghi informazioni tramite l’iniezione di prompt comporta un rischio concreto per la privacy dei pazienti, non solo ipotetico.

Il futuro degli standard di test dei modelli di intelligenza artificiale

Il gruppo di lavoro “ Sandbox ” dell’AMTSO sta ora monitorando l’adozione del quadro di riferimento aggiornato da parte dei fornitori di sandbox e sta definendo la struttura di rendicontazione che consentirà alle organizzazioni di confrontare le prestazioni dei test sull’IA allo stesso modo in cui già confrontano i tassi di rilevamento convenzionali. Per MetaDefender Aether, la scansione dei modelli di IA è la prima funzionalità sviluppata e convalidata in base a tale standard emergente sin dal primo giorno.

Leggi l'analisi tecnica completa della scansione dei modelli di IA nel post dedicato alla versione v3.3.0.