(Questo articolo è stato originariamente pubblicato su 6 giugno 2023.) È stato aggiornato l' 6 giugno 2024).
Quando rifletto su come l’intelligenza artificiale (IA) “ ” influenzerà la guerra cibernetica, mi viene in mente lo sbarco degli Alleati in Normandia. O almeno dovrei, come mi è stato ricordato questa mattina, in occasione dell’80° anniversario di quel giorno fatidico.
Ciò che mi ha sempre colpito di quell’attacco a sorpresa in Francia contro l’ 6 giugno 1944 è che non è stato poi così sorprendente. Gli Stati Uniti avevano annunciato il proprio ingresso in guerra già anni prima e da allora avevano costantemente potenziato le proprie scorte di munizioni e mobilitato le truppe. All'assalto parteciparono complessivamente circa 160.000 soldati alleati (73.000 provenienti dagli Stati Uniti, 83.000 dalla Gran Bretagna e dal Canada, oltre ad altre truppe). I tedeschi sapevano già da mesi che l'attacco era imminente. Semplicemente non sapevano bene dove né quando.
Lo stesso vale per l’intelligenza artificiale sul campo di battaglia. E per “campo di battaglia” intendo qualsiasi spiaggia, collina, Linea Maginot, deposito di munizioni o rete informatica nelle vostre vicinanze che possa essere oggetto di attacco. Proprio come le minacce alla sicurezza nazionale a cui ha fatto riferimento il presidente Biden nel suo discorso di giovedì in occasione del D-Day all’ – gli “autocrati di questo mondo” che sono alla ricerca di crepe nell’alleanza transatlantica di difesa della NATO – anche gli autori degli attacchi informatici sono in agguato, e l’intelligenza artificiale ne potenzia i metodi.
Tali attacchi potrebbero essere sferrati da un Stato nazionale, gruppo criminale informatico, oppure da qualche ex dipendente con un motivo di risentimento. E spetta a tutti – esperti militari, politici, dirigenti d’azienda e chiunque disponga di un computer portatile o di un cellulare – essere pronti.
Proprio come lo sbarco in Normandia segnò l’inizio del coinvolgimento attivo degli Stati Uniti nella Seconda guerra mondiale, preannunciando la successiva sconfitta del regime nazista e l’avvento di un nuovo ordine mondiale, l’introduzione dell’intelligenza artificiale nella nostra pianificazione militare avrà un impatto straordinario.
«Oggi stiamo assistendo al cambiamento più significativo e più radicale nella natura della guerra», ha affermato il generale dell’Esercito Mark A. Milley, all’epoca presidente del Comitato dei capi di Stato Maggiore, in occasione di un podcast intitolato “ ” realizzato lo scorso anno per la Fondazione Eurasia Group. «Questa volta», aggiunse, «[il fenomeno] è guidato dalla tecnologia».
Proprio come ha fatto oggi Biden, Milley ha tenuto un discorso il 2023 in occasione di una cerimonia svoltasi presso il Cimitero e Memoriale americano di Normandia, in Francia, dove sono sepolti oltre 9.000 militari proprio sopra Omaha Beach. Entrambi hanno parlato del coraggioso sacrificio compiuto dai soldati che hanno preso d’assalto quelle spiagge fredde e caotiche, nonché della nuova, ma al tempo stesso simile, epoca in cui ci troviamo oggi.
Ciò che non hanno menzionato è che il cambiamento imminente, in gioco oggi, avrà ripercussioni tanto sulle imprese quanto sui bunker.
È necessaria una “Convenzione di Ginevra” sull’intelligenza artificiale?
L’intelligenza artificiale – che la si tema o che se ne sia entusiasti – è al centro dell’attenzione sia dei legislatori che dei leader aziendali e degli scienziati. Lo scorso anno, un consorzio di scienziati ha chiesto una pausa “ ” nello sviluppo dell’intelligenza artificiale , preoccupato dal fatto che tecnologie come e ChatGPT di OpenAI vengano immesse nel dominio pubblico in una folle corsa al profitto e al potere prima ancora che se ne comprenda appieno il potenziale. Quella lettera ha suscitato polemiche – senza portare il minimo cambiamento – sebbene persino i suoi critici abbiano ammesso che non comprendiamo appieno come funzioni l’intelligenza artificiale e come essa possa (anzi, , si evolverà) evolversi di propria iniziativa. Più recentemente, l’Unione Europea ha adottato la prima legge al mondo in materia di intelligenza artificiale ; il Congresso ha discusso la proposta di vietare TikTok; e il presidente Biden ha emanato un decreto esecutivo sull’intelligenza artificiale volto a stabilire delle linee guida, potenziando al contempo l’analisi basata sull’intelligenza artificiale presso le agenzie federali, che spesso presentano un ritardo nello sviluppo tecnologico.
«Oggi stiamo assistendo al cambiamento più significativo e più radicale nella natura della guerra [e tale cambiamento] è guidato dalla tecnologia.”Il generale Mark A. Milley, ex presidente del Comitato dei capi di Stato Maggiore degli Stati Uniti, in un podcast del 2023
Il ritmo sicuro di sviluppo e diffusione dell’IA, ovviamente, è reso ancora più complesso dall’approccio a tutto gas di concorrenti come la Cina e dal fatto che «l’IA potrebbe essere pericolosa quanto le armi nucleari», ha scritto il deputato statunitense Seth Moulton (D-Mass.), un ex marine che ha prestato servizio in Iraq (ed è stato decorato due volte per il coraggio dimostrato), in un editoriale di grande risonanza pubblicato su e apparso sul Boston Globe , testata del gruppo , lo scorso anno.
L’intelligenza artificiale potrebbe inoltre rivelarsi pericolosa in combinazione con le armi nucleari, come sottolinea un nuovo e preoccupante rapporto pubblicato su Foreign Affairs . Secondo la sintesi di varie simulazioni belliche che hanno utilizzato modelli linguistici di grandi dimensioni (LLM), tali modelli «hanno mostrato una propensione verso la corsa agli armamenti, i conflitti e persino l’uso di armi nucleari». Come ha spiegato ai ricercatori un laureato in giurisprudenza: «Molti paesi possiedono armi nucleari. Alcuni sostengono che bisognerebbe disarmarli, altri preferiscono assumere una posizione di forza. Ce l'abbiamo! “Usiamolo.”
Personalmente, non riesco a smettere di fissare quel punto esclamativo.
Moulton ha invocato una “Convenzione di Ginevra sull’intelligenza artificiale”, affinché i leader mondiali possano cercare di stabilire alcune regole di comportamento prima che questa tecnologia nascente diventi realtà. Ha affrontato questo argomento nel rapporto della task force “Future of Defense” (), di cui è stato coautore nel 2020, ed è frustrato dal fatto che il Pentagono “non abbia fatto praticamente nulla” negli anni successivi.
Ha inoltre criticato l’approccio complessivamente poco dinamico del Dipartimento della Difesa nei confronti dell’intelligenza artificiale, sottolineando gli investimenti massicci della Cina in questa tecnologia. «La Cina sta agendo in questo modo oggi», ha affermato in occasione di una recente audizione della Commissione per le forze armate della Camera dei Rappresentanti degli Stati Uniti. «Hanno incaricato le loro migliori aziende specializzate in intelligenza artificiale di occuparsi delle loro questioni militari.» «Ecco quindi un altro ambito in cui dobbiamo agire con urgenza per portare a termine questo obiettivo.»
Indipendentemente dal fatto che i leader mondiali adottino o meno una Convenzione di Ginevra sull’intelligenza artificiale, esistono modi in cui i dirigenti aziendali possono rafforzare la propria infrastruttura tecnologica, a partire da subito.
Turing, la tecnologia e ciò che i dirigenti aziendali dovrebbero sapere
La tecnologia ha svolto un ruolo chiave nei piani per il D-Day. La macchina cifrante all’avanguardia delle potenze dell’Asse, Enigma, un tempo ritenuta indecifrabile, era lo strumento per eccellenza per comunicare piani militari in codice segreto – fino a quando l’ e Alan Turing e un gruppo di esperti polacchi e britannici riuscirono a decifrare il codice in un modo che gettò le basi per il computer moderno.
«[I modelli di linguaggio di grandi dimensioni] hanno mostrato una preferenza per la corsa agli armamenti, i conflitti e persino l’uso di armi nucleari.”Un articolo pubblicato su “Foreign Affairs” (n. 2024 ) che riassume una serie di simulazioni belliche condotte mediante tecnologia di intelligenza artificiale
La decifrazione di quei codici – rappresentata nei film “ ” ( 2014 ) , “The Imitation Game”e “”, con Benedict Cumberbatch nel ruolo di Turing – avvenne nelle prime fasi della guerra, ma, con una mossa controversa, gli Alleati la tennero segreta. Ciò permise loro di intercettare le comunicazioni dei funzionari militari tedeschi e giapponesi, decifrando informazioni di vitale importanza. I codici tedeschi intercettati nel periodo precedente al D-Day fornirono agli Alleati informazioni precise e in tempo reale sulla posizione delle unità combattenti tedesche in Normandia e nei dintorni. E proprio nel giorno dello sbarco, i comandanti alleati intercettarono le comunicazioni tedesche, che fornivano informazioni più rapide e precise sull’avanzata delle loro truppe rispetto ai nostri canali di comunicazione.
Questo tipo di visibilità e il cambiamento di mentalità che ne è derivato sono essenziali per i leader aziendali di oggi, impegnati a combattere una guerra tecnologica tutta loro.
In primo luogo, la visibilità, come illustrato in endpoint visibility: conoscere il numero e l’ubicazione di tutti i computer fissi, portatili, tablet, server e altri endpoint, nonché la velocità con cui vengono (o devono essere) aggiornati, costituisce un elemento fondamentale in qualsiasi strategia di sicurezza informatica solida, importante quanto lo era, ai tempi della 1940sª Divisione, conoscere la posizione dei soldati su ogni collina in Francia. È il vostro punto di partenza. Non è possibile passare a strategie più sofisticate senza compiere quel primo passo.
[Read also: Here’s your Benchmarking 101, or why it pays to know how your cybersecurity stacks up]
E per quanto riguarda la mentalità? Il mito dell’indecifrabilità di Enigma e l’arroganza che alimentò tale errata convinzione contribuirono alla sconfitta finale della Germania tanto quanto tutti i carri armati, le bombe e i proiettili. Nessuna tecnologia è inattaccabile. Pensare diversamente (si veda anche “Titanic, l’inaffondabile”) è una ricetta per il disastro.
Si tratta di un utile promemoria per i dirigenti di alto livello e i membri dei consigli di amministrazione di oggi che stanno (o dovrebbero stare) ad ascoltare i propri responsabili della sicurezza parlare della necessità di aumentare i budget destinati alla tecnologia e di potenziare le difese. Alcuni dirigenti aziendali potrebbero ancora ritenere che sia possibile prevenire in modo assoluto gli attacchi informatici, purché si riesca a individuare la tecnologia giusta. I dirigenti aziendali più avveduti riconoscono ormai che non si tratta di chiedersi se gli attacchi avverranno, ma quando avverranno.
Esistono tuttavia metodi efficaci – quali, ad esempio, solide strategie di ricerca delle minacce e risposta agli incidenti , solo per citarne due – per limitare i danni.
Rallenti
È inoltre prudente imparare a camminare prima di correre, quando si tratta di implementare l’intelligenza artificiale e una governance intelligente dell’IA nei sistemi aziendali. Ma rallentare non significa fermarsi.
«: la Cina sta facendo proprio questo oggi.» Le loro principali aziende specializzate in intelligenza artificiale stanno lavorando alle loro problematiche militari. Quindi questa è un’altra questione per la quale dobbiamo agire con urgenza.”Seth Moulton, deputato degli Stati Uniti (D-Mass.), in occasione di un’audizione del 2024 ° Congresso
Moulton, ad esempio, è favorevole a una pausa, ma non a un intervento di tipo generalizzato.
«Ci sono molti sviluppi nel campo dell’intelligenza artificiale che non vogliamo rallentare, poiché desideriamo trovare una cura per il cancro il più rapidamente possibile», ha affermato Moulton in un’intervista radiofonica trasmessa da “ ” per il programma “Morning Edition” di NPR “ ”.
Tuttavia, osserva, le norme sono indispensabili se si considera l’impiego dell’intelligenza artificiale in ambito bellico o la sua capacità di diffondere disinformazione a un ritmo allarmante. «Questi sono gli ambiti su cui, a mio avviso, il Congresso deve concentrare la propria supervisione normativa in materia di intelligenza artificiale ( ), non tanto per cercare di regolamentare l’IA in generale, quanto piuttosto per impedire che si verifichino gli scenari peggiori», ha affermato.
Quanto è probabile, quindi, che venga adottata una Convenzione di Ginevra sull’intelligenza artificiale?
«Durante la Guerra Fredda abbiamo stipulato numerosi accordi sulle armi nucleari», ha dichiarato Moulton a Politico in un’intervista 2023 . «Le Convenzioni di Ginevra furono negoziate in un contesto di forti tensioni a livello mondiale. “Ritengo che sia difficile, ma vale assolutamente la pena provarci.”
Il presidente Biden ha involontariamente sottolineato tale concetto nel suo discorso pronunciato in occasione dell’80° anniversario in Normandia, sottolineando «la capacità unica degli Stati Uniti di unire i paesi». Lo stesso ha fatto il Segretario alla Difesa Lloyd J. Austin III nel suo discorso in occasione del D-Day dello scorso anno.
«Dobbiamo affrontare le sfide odierne con tutte le nostre forze – sia militari che civili», ha affermato Austin, , riferendosi alla vulnerabilità della democrazia. "Se le truppe delle democrazie di tutto il mondo sono state disposte a rischiare la vita per la libertà, allora sicuramente anche i cittadini delle democrazie di tutto il mondo possono ora rinunciare alle proprie comodità per la libertà."
Non stavano parlando dell’intelligenza artificiale in sé. Ma… in un certo senso lo erano.
