La frode relativa ai contenuti generati dall'IA consiste nell'uso dell'IA generativa per creare o manipolare immagini, documenti o testi presentati come prove nel contesto di una decisione aziendale. AI Content Inspector è il motore di OPSWAT basato sull'intelligenza artificiale per la verifica dell'autenticità dei contenuti e il rilevamento delle frodi documentali, progettato per segnalare tali contenuti prima che influenzino una decisione relativa a un pagamento o all'assistenza.
Punti di forza
- Una macchia sul soffitto del valore di 600 dollari ha portato a un risarcimento di 18.400 dollari da parte dell’assicurazione sulla casa dopo che un’intelligenza artificiale generativa ha ingigantito il danno in una foto inviata, senza che fosse necessaria alcuna visita da parte di un perito
- Un graffio sul paraurti del valore di 150 dollari si è trasformato in una richiesta di risarcimento di 3.850 dollari quando l’intelligenza artificiale ha aggiunto ammaccature e una crepa sul paraurti alla stessa foto
- Gli enti pagatori del settore sanitario si trovano ad affrontare un rischio correlato: immagini mediche sintetiche e documentazione clinica falsificata possono portare a decisioni errate in materia di rimborsi o di cure
- Il 20-30% delle richieste di risarcimento assicurativo potrebbe già contenere contenuti multimediali modificati dall'intelligenza artificiale
- AI Content Inspector combina controlli dei metadati e della provenienza, classificatori basati su modelli di IA per l'analisi forense e di compressione, nonché il rilevamento delle filigrane, in un unico verdetto corredato da un punteggio di affidabilità, anziché da un semplice risultato di “superato” o “non superato”
Il nostro precedente articolo sulle frodi relative alle fatture generate dall’intelligenza artificiale ha dimostrato che una fattura falsificata può superare ogni scansione antimalware pur contenendo istruzioni di pagamento fraudolente. La stessa vulnerabilità si riscontra ovunque venga accettata come prova una foto, un documento o un modulo scansionato. Una foto di un immobile, l’immagine di un incidente o una cartella clinica possono essere prive di codice dannoso e tuttavia fornire una rappresentazione fuorviante di ciò che è realmente accaduto.
In questo blog presenteremo tre tipologie di sinistri – assicurazione sulla casa, assicurazione auto e rimborsi sanitari – per illustrare quanto sia già ampia tale esposizione. Gli analisti antifrode, le unità investigative speciali, i responsabili della gestione dei sinistri e i team preposti all’integrità dei pagamenti sanitari sono coloro che si fanno carico di tale rischio, poiché rappresentano l’ultimo controllo prima che venga erogato un risarcimento o venga approvata una decisione relativa alle cure.
I casi di frode generati dall'intelligenza artificiale stanno già incidendo sui sinistri
L’IA generativa ha reso le richieste di risarcimento false veloci, economiche e difficili da individuare a prima vista. Secondo Shift Technology, dal 20% al 30% delle richieste di risarcimento assicurativo potrebbe contenere contenuti multimediali alterati dall’IA. Secondo l’Association for Financial Professionals, nel 2025 il 76% delle organizzazioni ha subito tentativi di frode o frodi effettive nei pagamenti e, come rivela un recente rapporto di Medius Financial Census, le perdite medie dovute a frodi nelle fatture raggiungono i 133.000 dollari per singolo episodio.
I flussi di lavoro relativi a richieste di risarcimento, pagamenti e rimborsi dipendono tutti dai contenuti inviati, che l’IA generativa è ormai in grado di falsificare in modo convincente. Ogni flusso di lavoro prende una decisione (autorizzare, segnalare, bloccare o inoltrare per la revisione) sulla base di tali contenuti, e un’immagine o un documento contraffatto può far sì che tale decisione venga approvata prima che qualcuno si chieda se le prove sottostanti siano autentiche.
In che modo le foto dei danni alle proprietà generate dall’intelligenza artificiale fanno lievitare i risarcimenti delle assicurazioni sulla casa
Lo scenario
Il proprietario di un'abitazione scatta una foto di una piccola macchia sul soffitto, la cui riparazione costerebbe circa 600 dollari. L'IA generativa modifica l'immagine per mostrare danni causati da un temporale che si estendono sul soffitto e sul tetto. Inviata tramite uno strumento di valutazione remota dei sinistri immobiliari, la foto modificata dall'IA determina un risarcimento automatico di 18.400 dollari, senza che alcun perito si sia mai recato sul posto.
In che modo AI Content Inspector individua i contenuti falsificati generati dall'intelligenza artificiale sin dalla fase di acquisizione
AI Content Inspector esamina l’immagine inviata utilizzando contemporaneamente diversi segnali, tra cui l’analisi delle impronte digitali dei sensori, i controlli di coerenza dei pixel e le tracce di compressione lasciate dal processo di modifica. Nessun singolo rilevatore determina da solo l’esito. Questa combinazione consente al motore di segnalare un’immagine generata dall’IA anche quando appare convincente a un revisore umano. Il verdetto risultante e il punteggio di affidabilità vengono ritrasmessi alla piattaforma di gestione dei sinistri che ha inviato il file, in modo che una foto sospetta possa essere sottoposta a revisione manuale prima che il pagamento venga autorizzato, anziché dopo l’erogazione dei fondi.
Le foto ritoccate con l’intelligenza artificiale possono far approvare una richiesta di risarcimento per l’assicurazione auto?
Lo scenario
Un assicurato scatta una foto di un piccolo graffio sul paraurti, una riparazione da 150 dollari. L’IA generativa aggiunge alla stessa foto alcune ammaccature, un fanale rotto e un paraurti incrinato. Inviata a una piattaforma di gestione sinistri basata su immagini, l’immagine manipolata genera un risarcimento automatico di 3.850 dollari, senza che nessun perito veda mai l’auto.
Perché le piattaforme di gestione dei sinistri basate su foto sono vulnerabili
Le piattaforme di gestione dei sinistri basate su immagini sono progettate per accelerare il processo di approvazione, non per verificare l’autenticità delle immagini inviate. AI Content Inspector aggiunge una valutazione sull’autenticità dei contenuti proprio nel punto in cui l’immagine entra nel flusso di lavoro. Tale valutazione non richiede un nuovo ciclo di approvazione né uno strumento di rilevamento separato integrato nella piattaforma di gestione dei sinistri, e fornisce alle unità investigative specializzate un segnale tempestivo su cui basarsi quando un sinistro sospetto necessita di un’analisi più approfondita.
L'esposizione del settore sanitario alla documentazione medica sintetica
Gli enti pagatori del settore sanitario si trovano ad affrontare due rischi correlati derivanti dallo stesso problema di fondo. Le immagini cliniche falsificate o la documentazione sintetica allegata a una richiesta di rimborso possono portare a decisioni errate in materia di rimborso. Lo stesso contenuto falsificato, se finisce nella cartella clinica di un operatore sanitario anziché nella coda di elaborazione dell’ente pagatore, può invece portare a decisioni cliniche errate.
Perché la revisione manuale dei documenti non è sufficiente per individuare nessuno dei due rischi
Gli enti pagatori del settore sanitario e i team preposti alla tutela dell’integrità dei pagamenti devono individuare immagini mediche falsificate e documentazione sintetica, preservando al contempo l’integrità di un flusso di lavoro regolamentato; inoltre, gestiscono volumi di richieste di rimborso tali da rendere impraticabile una revisione manuale riga per riga di ogni immagine e documento. AI Content Inspector analizza le immagini mediche e la documentazione inviate alla ricerca di indicatori di generazione tramite IA e di frode prima che tali contenuti raggiungano un flusso di lavoro di rimborso o un percorso assistenziale, senza aggiungere una fase di revisione separata per ogni file.
Come AI Content Inspector individua i contenuti falsi
Prima che venga eseguito qualsiasi segnale di rilevamento, AI Content Inspector verifica e normalizza ogni file inviato, compresa la gestione dei metadati e dei dati EXIF per i formati immagine supportati. Non è quindi un singolo segnale a determinare se il file sia stato falsificato. AI Content Inspector combina quattro categorie di rilevamento relative a immagini, testo e file PDF:
- Analisi dei metadati e della provenienza. Verifica la provenienza dichiarata di un file, confrontando i dati della fotocamera con le credenziali di generazione tramite IA.
- Analisi forense e di compressione. Individua eventuali artefatti di modifica, lacune nelle impronte digitali dei sensori e tracce di compressione lasciate dal salvataggio successivo o dalla manipolazione.
- Classificatori basati su modelli di intelligenza artificiale. Esegue modelli di deep learning addestrati a distinguere i contenuti reali dalle immagini e dai testi generati dall'intelligenza artificiale.
- Rilevamento delle filigrane. Verifica la presenza di firme incorporate, come Google SynthID, nei contenuti immagine supportati.
Ogni segnale restituisce il proprio risultato. AI Content Inspector li combina in un unico verdetto con un punteggio di affidabilità, anziché indicare semplicemente se il risultato è “superato” o “non superato”, in modo che i risultati incerti possano essere sottoposti a revisione umana invece di essere automaticamente bloccati o approvati.
Il ruolo di AI Content Inspector nella piattaforma MetaDefender™
AI Content Inspector opera come motore indipendente all’interno di MetaDefender™ Core e MetaDefender™ Cloud. Si affianca alle tecnologie Metascan™ Multiscanning, Deep CDR™ e Proactive DLP™. L’aggiunta di valutazioni sull’autenticità dei contenuti a tale pipeline esistente significa che i sistemi di gestione dei sinistri, dei pagamenti e delle richieste di assistenza sanitaria non necessitano di uno strumento separato per il rilevamento dei deepfake né di una nuova integrazione per verificare se i contenuti inviati siano attendibili.
A differenza degli strumenti autonomi per il rilevamento dei deepfake, che richiedono un proprio flusso di lavoro e un proprio ciclo di approvvigionamento, AI Content Inspector è progettato per operare all’interno della pipeline di ispezione dei file già in uso presso queste organizzazioni, estendendo l’approccio di sicurezza dei file di OPSWAT: non si limita più a verificare se un file sia sicuro da aprire, ma valuta anche se il suo contenuto sia affidabile. AI Content Inspector aggiunge una valutazione dell’autenticità dei contenuti all’ispezione dei file già in uso nella vostra organizzazione. Scoprite come si integra nel vostro flusso di lavoro relativo a sinistri, pagamenti o accettazione di pazienti nel settore sanitario.
Domande frequenti
Quali tipi di file supporta AI Content Inspector?
AI Content Inspector supporta i formati immagine più diffusi, tra cui JPG, PNG, WebP e BMP, oltre a formati contenenti testo come TXT, Markdown e PDF. L'analisi dei file PDF comprende sia il rilevamento di testo generato dall'IA sia il rilevamento di immagini generate dall'IA all'interno dello stesso documento.
AI Content Inspector funziona senza connessione al cloud?
Sì. AI Content Inspector può essere implementato in locale tramite MetaDefender Core , oltre che tramite MetaDefender Cloud , su Windows e Linux. Le organizzazioni che non possono inviare documenti relativi a richieste di rimborso, pagamenti o assistenza sanitaria a un servizio esterno possono eseguire il rilevamento interamente all’interno del proprio ambiente.
In che modo AI Content Inspector si differenzia dalla scansione alla ricerca di malware?
La scansione antimalware verifica se un file può essere aperto in tutta sicurezza. AI Content Inspector verifica l'autenticità del contenuto di quel file, aggiungendo un giudizio relativo alle frodi e alla generazione tramite IA a corredo della scansione antimalware, senza sostituirla.
AI Content Inspector fornisce un risultato di "superato" o "non superato"?
No. Restituisce un verdetto accompagnato da un punteggio di affidabilità, basato su più segnali di rilevamento. I risultati incerti possono essere sottoposti a revisione manuale, e la soglia di revisione è configurabile.
