Scopri di più sul libro di Benny Czarny “Cybersecurity Upside Down”

Per saperne di più
Per le traduzioni dei siti utilizziamo l'intelligenza artificiale e, sebbene ci sforziamo di essere accurati, non sempre le traduzioni sono precise al 100%. La vostra comprensione è apprezzata.

Cosa può insegnarci la progettazione degli aerei in merito alla prossima interruzione delle infrastrutture critiche

Di Benny Czarny

Negli ultimi giorni ho letto notizie relative a interruzioni di servizio presso Microsoft, la FAA, United Airlines, Chase e Amtrak. Ho anche chiamato amici, familiari e dipendenti coinvolti dal disservizio, per verificare se stessero bene e come avrebbero fatto a tornare a casa.

La parola “interruzione del servizio” assume un significato diverso quando una persona a cui tieni è bloccata in aeroporto. Dietro la spiegazione tecnica si nascondono bambini stanchi, passeggeri anziani in coda, coincidenze perse e piani che vanno in fumo. Per un’azienda, può significare ordini persi, pagamenti ritardati e una giornata di lavoro andata in fumo.

Sono il fondatore e amministratore delegato di OPSWAT, un’azienda specializzata nella sicurezza informatica che si occupa della protezione delle infrastrutture critiche. Sono anche un pilota con abilitazione al volo strumentale. Osservando questi incidenti, mi ritrovo sempre a pormi la stessa domanda: perché non applichiamo maggiormente il modo di pensare che garantisce il funzionamento di un aereo alle infrastrutture da cui dipendiamo ogni giorno?

Un aereo racchiude in uno spazio straordinariamente ridotto i sistemi di alimentazione, navigazione, comunicazione e comando di volo. Questi sistemi operano in sinergia, talvolta in condizioni difficili, e da essi dipendono le vite delle persone.

Il progetto parte dal presupposto che si verifichino degli errori. Gran parte dell’addestramento dei piloti consiste proprio nel riconoscere tali errori e sapere come reagire. Ci si allena finché si ha ancora il lusso di poter commettere un errore.

Prendiamo ad esempio l'energia elettrica. Un alternatore genera elettricità per l'aereo. Sì, può servire a ricaricare il tuo iPhone, ma a me interessa di più garantire il funzionamento delle radio e degli strumenti di volo.

Su un aereo dotato di due alternatori, uno dei due può alimentare i carichi essenziali in caso di guasto dell’altro. Se entrambi si guastano, le batterie possono garantire un’autonomia limitata. È necessario ridurre il carico e sfruttare quel tempo per gestire l’emergenza.

Il punto fondamentale è che l’alternatore e la batteria funzionano in modo diverso. Uno genera elettricità, l’altro la immagazzina. La batteria offre un’ulteriore possibilità di mantenere in funzione le apparecchiature essenziali quando il sistema di generazione non è disponibile.

Questo ragionamento va oltre. Airbus ha documentato progetti di sistemi di controllo di volo che utilizzano hardware e software diversi nei computer primari e secondari, compresi sistemi secondari più semplici. L’obiettivo è ridurre la probabilità che un singolo guasto renda impossibile l’esecuzione di una funzione critica in ogni modo possibile.

Di solito porto con me l’iPad con ForeFlight, oltre agli strumenti già presenti sull’aereo. Si tratta di un ausilio supplementare, le cui funzionalità dipendono dai sensori collegati, e devo comprenderne i limiti. Tuttavia, avere un’altra fonte di informazioni di volo, su un dispositivo diverso dotato di batteria propria, mi dà una certa tranquillità.

Ora consideriamo la stessa questione nel campo dell'informatica, nei sistemi critici e nelle infrastrutture critiche. Questi sistemi devono garantire la vita o la libertà, come un aereo, quindi dovremmo adottare lo stesso approccio progettuale.

Se il mio sistema principale e quello di backup utilizzano lo stesso software, ricevono lo stesso aggiornamento e dipendono dalla stessa rete, quanto sono indipendenti l’uno dall’altro? Spostarne uno in un altro edificio non elimina un difetto nel codice. Un secondo cloud potrebbe comunque dipendere dallo stesso servizio di identità o dalla stessa fonte di dati.

Possiamo clonare un sistema e copiarne anche i punti deboli.

Se lo stesso guasto può mettere fuori uso entrambi i sistemi, possiamo davvero dire di avere un sistema di backup?

I recenti episodi dimostrano perché quella domanda sia davvero importante.

Microsoft, 12 e 13 novembre

Il loro rapporto preliminare descrive un difetto nascosto nel software, un aumento del traffico sui gateway e una riduzione della capacità. Il reindirizzamento del traffico dai server in errore ha contribuito a diffondere il guasto ad altri server con la stessa vulnerabilità. Microsoft disponeva già di diverse architetture di gateway, ma alcuni servizi, tra cui Exchange Online, non potevano passare all’alternativa nella misura richiesta. Apprezzo i dettagli pubblicati da Microsoft. My La conclusione è che l’indipendenza e la capacità devono essere testate insieme. Ritengo che un’architettura alternativa debba sostenere il carico di lavoro essenziale fungendo da hot backup quando effettivamente necessario.

FAA, 13 novembre

La FAA ha descritto un sovraccarico della rete verificatosi durante un periodo di lavori di sostituzione dei router. Il blocco di due siti sospettati di essere all’origine del problema ha stabilizzato la rete. I controllori di volo e i piloti hanno garantito la sicurezza, ma i decolli a livello nazionale si sono interrotti. La causa principale è ancora oggetto di indagine e la FAA afferma che il sistema SMART (Strategic Management of Airspace, Routes and Trajectories) non è stato coinvolto. La questione relativa all’architettura è come un problema verificatosi in un numero limitato di sedi si sia diffuso così ampiamente e quali ulteriori misure di isolamento e comunicazioni indipendenti potrebbero preservare un maggior numero di operazioni in sicurezza. Tuttavia, dovremmo anche chiederci cosa abbia causato il collasso dell’architettura esistente e come sia stato escluso il coinvolgimento di SMART?

Amtrak, 13 novembre

Si sono verificati problemi con le prenotazioni mentre i passeggeri delle compagnie aeree, rimasti a terra, cercavano soluzioni alternative. Amtrak ha fatto riferimento a un aggiornamento del sistema e a un aumento della domanda, anche se la causa tecnica esatta rimane poco chiara. Questo è uno scenario che inserirei in qualsiasi esercitazione di ripristino: quando una parte della nostra infrastruttura smette di funzionare, le persone si rivolgono a un’altra. Anche il sistema successivo deve avere la capacità di accogliere quelle persone.

United, 16 novembre

Reuters ha riferito che un’interruzione del servizio ha interessato diverse applicazioni dedicate all’equipaggio e ha impedito a United di fornire i pesi definitivi degli aeromobili per i voli in partenza. La causa tecnica alla base del problema non è stata ancora resa nota. Pensateci: l’aereo, l’equipaggio e i passeggeri possono essere tutti pronti, ma il volo non può decollare senza informazioni essenziali. Qualsiasi soluzione alternativa deve disporre di dati di carico aggiornati e accurati. Il backup di ieri non sarebbe sufficiente. Dobbiamo ripristinare un sistema funzionante con dati aggiornati.

Chase, 16 novembre.

Un errore interno del software ha causato ritardi nelle transazioni, compresi i pagamenti che coinvolgono altre banche. In questo caso, il ripristino deve garantire la conservazione dei dati contabili. Un ripristino rapido è utile solo se i pagamenti sono stati registrati, i saldi sono corretti e le transazioni non vengono elaborate due volte. Ciò deve essere dimostrato con un volume di transazioni realistico.

Si tratta di episodi diversi, e dovremmo evitare di trarre conclusioni affrettate mentre le indagini sono ancora in corso. Tuttavia, ci sono già molti spunti da inserire nelle nostre discussioni tecniche.

E ora stiamo integrando l'intelligenza artificiale nei sistemi da cui dipendiamo.

Il ripristino di un'applicazione convenzionale può già risultare difficile. Un sistema basato sull'intelligenza artificiale aggiunge un modello, un runtime, data lake e pipeline, le cui interrelazioni possono essere difficili da districare quando si verifica un problema. Anche quando il modello rimane invariato, i dati e il contesto operativo possono cambiare. Il ripristino di una versione precedente del codice potrebbe lasciare componenti che non funzionano più correttamente tra loro.

Il software può tornare a funzionare anche se il sistema continua a fornire consigli errati.

Ecco perché considero un sistema di intelligenza artificiale come un ambiente operativo vivente. Il ripristino consiste nel capire cosa è cambiato, ripristinare i componenti compatibili e verificare il comportamento prima di affidarsi nuovamente al sistema.

Le persone continuano ad aver bisogno del servizio mentre sono in corso i lavori.

Per le nostre funzioni più critiche, ritengo che dovremmo prendere in considerazione un’implementazione separata su un’architettura diversa, già operativa e pronta a subentrare. Potrebbe trattarsi di un’altra piattaforma di intelligenza artificiale. Oppure potrebbe essere un sistema convenzionale più semplice, in grado di garantire il funzionamento delle operazioni essenziali.

L'indipendenza deve estendersi al di là dell'applicazione. Altri software presenti sulla stessa rete difettosa potrebbero comunque risultare non disponibili. Due modelli diversi che utilizzano gli stessi dati danneggiati potrebbero comunque produrre risultati errati. Dobbiamo esaminare l'intero percorso da cui dipende il servizio. Dobbiamo adottare lo stesso approccio che ho descritto nell'esempio dell'architettura della cabina di pilotaggio dell'Airbus.

So che questo comporta dei costi e aumenta la complessità. L’alternativa non deve necessariamente includere tutte le funzionalità del sistema principale. Proprio come la batteria di un aereo, deve garantire il funzionamento delle funzioni essenziali per un determinato periodo di tempo, utilizzando un’architettura diversa.

Inizia decidendo cosa deve continuare a funzionare, con quale capacità e per quanto tempo. Se l’operazione può tollerare solo millisecondi o secondi di interruzione, questo diventa un requisito tecnico che dobbiamo dimostrare. Il ripristino di tutto il resto può richiedere più tempo.

Quindi sottoponete il progetto a un test di stress in condizioni controllate. Rendete l’IA non disponibile. Disconnettete la rete. Introducete dati obsoleti, una patch difettosa o una violazione informatica. Provatelo quando il sistema di backup ha già perso parte della sua capacità. Osservate cosa succede quando sono le persone reali a dover effettuare la transizione e valutate se il servizio rimane utilizzabile e corretto.

Nella cabina di pilotaggio, devo sapere cosa funziona ancora dopo un guasto, per quanto tempo funzionerà e cosa devo fare dopo. Ho bisogno di queste risposte prima di decollare.

Le famiglie che cercano di tornare a casa e le aziende in attesa di pagamenti meritano da parte nostra la stessa attenzione.

Alla prossima riunione dei dirigenti, chiedi al tuo team: «Se il nostro sistema principale smettesse di funzionare in questo momento, cosa continuerebbe a funzionare, e lo stesso guasto potrebbe compromettere anche quello?»

Analizza a fondo la progettazione e l’architettura nel dettaglio e cerca di individuarne i punti deboli. Server interruzione delle comunicazioni, un incidente informatico. Se si tratta di un sistema di intelligenza artificiale come SMART, studia i suoi componenti. Parti dal presupposto che possa andare fuori controllo, limita la larghezza di banda e predisponi un secondo sistema con un’architettura diversa, pronto a subentrare nel caso in cui l’intero sistema smetta di funzionare.

Allora chiedi loro di fartelo vedere.

La prossima interruzione di corrente non dovrebbe essere l’occasione in cui scopriremo per la prima volta se il sistema di backup funziona.

Rimanete aggiornati con OPSWAT!

Iscriviti oggi stesso per ricevere gli ultimi aggiornamenti sull'azienda, le notizie, le informazioni sugli eventi e molto altro ancora.