Nel cuore del centro operativo di sicurezza di un’azienda classificata nella lista Fortune 500 , un’intelligenza artificiale agentica denominata Sentinel, dotata di funzionalità di “” e basata su algoritmi avanzati, individua una violazione del sito endpoint quando un dipendente clicca su un link contenuto in un’e-mail di phishing . Sentinel individua inoltre immediatamente gli accessi anomali provenienti dall’Europa orientale e i segnali che indicano che è in corso un’esfiltrazione di dati. Sentinel invia Hunter a rintracciare e isolare l'intrusione.
Nel frattempo, l’agente Defender riconosce il malware come una variante del ransomware della cybercriminalità LockBit e risolve le vulnerabilità sfruttate dagli aggressori per ottenere l’accesso. Nel giro di pochi minuti, gli analisti umani ricevono un rapporto post-intervento da esaminare, e una violazione che avrebbe potuto comportare costi per milioni a causa dei tempi di inattività e della perdita di dati viene mitigata da un trio di sistemi di intelligenza artificiale, supportati da potenti motori analitici e da un decennio di dati relativi a eventi di sicurezza e attacchi.
Per completezza di informazione: tali agenti di intelligenza artificiale (Sentinel, Hunter, Defender) sono personaggi di fantasia e l’incidente è ipotetico. Ma la promessa di questo nuovo mondo della sicurezza informatica basato sull’approccio “ ” è reale e sta per diventare realtà — molto presto, secondo gli esperti del settore — in un centro operativo di sicurezza (SOC) vicino a voi. E si prevede che il loro ingresso sarà di grande portata: entro il prossimo anno, circa il 86% delle organizzazioni prevede di aver adottato l’ , utilizzando agenti di intelligenza artificiale, secondo il recente sondaggio “ ” condotto da PagerDuty sull’Agentic AI.
A differenza degli strumenti basati su regole, già esistenti sotto forma di automazione dei processi robotica ( ) o di strumenti di automazione, orchestrazione e risposta alla sicurezza (SOAR) , gli agenti basati sull’intelligenza artificiale, sulla falsariga di Sentinel, Hunter e Defender, promettono di apprendere dal proprio ambiente, prevedere, prendere decisioni ed eseguire interventi nell’ambito di attività specifiche quali l’isolamento dei dispositivi compromessi , l’applicazione di patch alle vulnerabilità, la disconnessione dei sistemi compromessi e la richiesta di assistenza ad altri agenti e a professionisti della sicurezza umani, quando necessario.
Alcuni sostengono che tali agenti rivoluzioneranno le operazioni di sicurezza; altri rimangono scettici riguardo all’entità dei cambiamenti possibili nel prossimo futuro, tenuto conto dello stato attuale della tecnica.
Per i responsabili della sicurezza, i vantaggi sono innegabili: secondo i rapporti dei fornitori, 24/7 il monitoraggio delle minacce riduce drasticamente i tempi di risposta fino al 90%, riduce la “fatica da allerta” e affronta la carenza di personale qualificato automatizzando le attività ripetitive e di routine. L'IA agentica consente inoltre una difesa proattiva di tipo “ ” (), avvalendosi dell’analisi comportamentale “ ” ( ) per prevenire gli attacchi e applicare le politiche di sicurezza ( Enforce ).
"Inizialmente ero scettico riguardo all’intelligenza artificiale agentica, ma vederla impiegata nelle applicazioni aziendali e poi nelle operazioni di sicurezza mi ha fatto cambiare opinione", ha affermato Wim Remes, consulente principale presso la società di consulenza in materia di sicurezza Toreon, con sede ad Anversa, in Belgio. «L’intelligenza artificiale agentica trova ampio impiego nella raccolta e nella contestualizzazione delle informazioni per gli analisti SOC, nonché nell’automazione della risposta agli incidenti.»
Valutazioni promettenti, senza dubbio. Tuttavia, prima di poter realizzare tali flussi di lavoro autonomi, beneficiare di cicli di aggiornamento più rapidi e generare valore aziendale complessivo, è necessario comprendere i vantaggi e le insidie dell’IA agentica.
Quella che segue è una preziosa guida introduttiva, corredata da consigli di esperti, su ciò che è necessario sapere in vista del prossimo anno, nonché sui modi migliori per avviare il processo di integrazione dell’IA agente nel proprio modello di business e nell’architettura aziendale.
L’ascesa dell’IA agente: il vostro difensore (semi)autonomo
L'intelligenza artificiale tradizionale vi fornisce delle risposte. L'IA agentica attua le decisioni senza — se lo desiderate — attendere la vostra approvazione.
«Inizialmente ero scettico riguardo all’IA agentica, ma vederla impiegata nelle applicazioni aziendali e poi nelle operazioni di sicurezza mi ha fatto cambiare opinione.»Wim Remes, consulente principale presso la società di consulenza in materia di sicurezza Toreon
Si tratta della naturale evoluzione dell’automazione robotica dei processi, dell’intelligenza artificiale tradizionale e di altri processi deterministici che richiedono un certo livello di giudizio e di capacità decisionale, anziché attenersi a rigidi schemi prestabiliti, caratterizzati da flussi di lavoro predefiniti attivati da scenari prestabiliti. "L'intelligenza artificiale agentica promette di colmare, a lungo termine, le lacune che l'attuale automazione non è in grado di colmare", ha affermato Scott Crawford, responsabile della ricerca sulla sicurezza informatica presso S&P Global Market Intelligence.
Qual è la parola chiave in questo contesto? «Prima o poi.»
Sebbene gli analisti concordino sul fatto che l’IA agentica conferirà a questi sistemi una maggiore “autonomia”, sono numerosi i dibattiti su quanto rapidamente l’ e di un’IA agentica nell’ambito delle operazioni di sicurezza (SecOps) si rivelerà un punto di svolta.
La motivazione a passare all’IA agentica è elevata. Da anni ormai, i team di sicurezza informatica conducono una battaglia persa contro una valanga di avvisi di sistema, mentre i loro avversari — sempre più numerosi, automatizzati e creativi — costringono i difensori ad adattarsi costantemente. E contrastare l’affaticamento da allerta. E affrontano il problema del burnout professionale. Gli strumenti tradizionali basati su regole, con i loro schemi statici e la loro logica fragile, semplicemente non riuscivano a stare al passo. «È proprio questo il vero valore della questione», ha aggiunto Remes. "Ridurre il carico cognitivo degli analisti, ad esempio raccogliendo informazioni relative a un allarme, alle risorse correlate, agli incidenti passati e alle scansioni di vulnerabilità —piuttosto che limitarsi ad automatizzare azioni quali il blocco degli account e simili", ha affermato.
[Leggi anche: 4 priorità di leadership critiche per i CISO nell'era dell'IA]
Ecco in che modo l’IA agentica potrebbe contribuire a invertire questa tendenza:
- Dalla “stanchezza da allarmi” all’azione autonoma —Il team medio addetto alle operazioni di sicurezza aziendale deve gestire migliaia di allarmi ogni giorno, la maggior parte dei quali sono falsi positivi o presentano un rischio basso. Gli analisti umani, già messi a dura prova dalla carenza di personale, sono costretti a effettuare una selezione prioritaria, indagare e intervenire, spesso trascurando i segnali più sottili di una vera e propria violazione. Le capacità analitiche e la capacità di risposta autonoma dell’IA agentica promettono un nuovo approccio.
- Rilevamento e risposta automatizzati alle minacce —I sistemi di intelligenza artificiale basati su agenti acquisiscono dati provenienti da fonti cloud, di rete e endpoint , identificando modelli anomali che segnalano potenziali minacce. Una volta individuati, sono in grado di isolare autonomamente i dispositivi compromessi, bloccare il traffico dannoso o revocare le credenziali: azioni che un tempo richiedevano ore ora vengono eseguite in pochi secondi.
- Playbook dinamici —I piani statici di risposta agli incidenti spesso si rivelano inefficaci, motivo per cui molti professionisti della sicurezza sperano che diventino presto un ricordo del passato. L'IA agenziale elabora strategie dinamiche e sensibili al contesto, in grado di adattare le risposte all'evoluzione del panorama delle minacce. È in grado di assegnare priorità agli incidenti, indagare sulle anomalie e persino coordinare strategie di contenimento in più fasi, magari senza attendere l’approvazione da parte di un operatore umano.
- Apprendimento continuo, memoria di elefante —Ogni interazione, ogni evento, diventa un dato di addestramento — e, proprio come la memoria di Internet, l’intelligenza artificiale non dimentica mai. L'IA agenziale perfeziona i propri modelli ad ogni interazione, migliorando i tassi di rilevamento e riducendo i falsi positivi nel corso del tempo. Il SOC diventa più veloce man mano che diventa più intelligente.
- Difesa proattiva e applicazione del modello “zero-trust” —L’Agentic AI sfrutta l’analisi comportamentale per individuare deviazioni dall’attività di riferimento, segnalando gli exploit zero-day e le minacce interne prima che si aggravino. Monitorando costantemente il comportamento degli utenti e la criticità delle risorse, applica le politiche “zero trust” di , garantendo che l’accesso sia sempre giustificato dal contesto e regolato dinamicamente.
Le insidie e i rischi dell’intelligenza artificiale agentica
Gli appassionati di IA agentica riconoscono che, nonostante tale potenziale, non si tratterà di un vero e proprio paradiso della sicurezza, e che arrivare a SOC basati sull’IA agentica non sarà semplice come premere un interruttore.
«Questa tecnologia non è necessariamente facile da implementare.»David Marcus, esperto senior di sicurezza a livello federale e ingegnere capo presso l’ Intel
"Questa tecnologia non è necessariamente facile da implementare e comporterà anche una serie di nuove sfide", ha affermato David Marcus, esperto federale di sicurezza informatica e ingegnere capo presso il produttore di chip Intel
Tra tali sfide figurano l’integrazione con i sistemi legacy, a causa dei loro formati proprietari e dei linguaggi di programmazione obsoleti, nonché la mancanza di supporto per i moderni framework di intelligenza artificiale che richiedono interfacce di programmazione delle applicazioni (API) per lo scambio di dati in tempo reale. Senza queste capacità, l’IA agentica nel SOC non disporrà dei dati necessari per intraprendere azioni informate e tempestive.
Tali sfide si aggiungono alle normali difficoltà legate ai dati, quali i problemi relativi alla qualità e alla preparazione degli stessi, tra cui la normalizzazione dei formati, la pulizia dei log obsoleti e la rimozione dei dati inesatti o privi dei metadati necessari.
Inoltre, tutte le sfide associate agli esseri umani si applicano anche agli agenti di intelligenza artificiale, a causa del loro ampio accesso a strumenti e dati, nonché della loro capacità di operare in modo autonomo. Ciò li rende vulnerabili alla compromissione dei privilegi e al furto delle credenziali. La situazione è analoga a quella che si verifica con il personale umano, in cui gli autori degli attacchi possono spacciarsi per agenti ed eseguire operazioni non autorizzate che danneggiano, compromettono e espongono dati sensibili.
Su larga scala, tali rischi si aggravano man mano che le organizzazioni implementano un numero crescente di agenti nei vari team e flussi di lavoro, portando spesso a una “ ” (espansione incontrollata dell’IA agentica) — in cui i sistemi autonomi proliferano più rapidamente di quanto i meccanismi di governance, visibilità e responsabilità riescano ad adattarsi.
Esiste inoltre il rischio di un eccessivo affidamento all’intelligenza artificiale, che potrebbe determinare una “cecità da allerta” qualora la supervisione umana venisse meno a causa di un’eccessiva fiducia e dei controlli umani venissero trascurati. "L'automazione completa in assenza di maturità dei processi è rischiosa", ha aggiunto Remes. "Si dovrebbe iniziare con i processi manuali, per poi passare all’automazione controllata dall’uomo, quindi all’automazione supervisionata dall’uomo e, solo infine, all’automazione completa. "Le organizzazioni dovrebbero introdurre l'intelligenza artificiale agentica man mano che i processi maturano."
5 passi verso un’IA agente più sicura
I responsabili della sicurezza apprendono come raggiungere il giusto livello di autonomia, mantenendo il controllo su tali agenti mentre sfruttano la velocità dell’IA agentica, senza tuttavia rinunciare alle valutazioni critiche.
«: Questo è uno dei problemi che riscontriamo in ciascuna di queste grandi ondate tecnologiche.» Si parla dei lati positivi, ma non si dedica abbastanza tempo a discutere dei lati negativi.”Scott Crawford, responsabile della ricerca sulla sicurezza informatica presso S&P Global Market Intelligence
«In questo caso occorre trovare un equilibrio», ha affermato Crawford. «Questo è uno dei problemi che riscontriamo in ciascuna di queste grandi ondate tecnologiche. Spesso discutiamo degli aspetti positivi, ma non dedichiamo abbastanza tempo a discutere di quelli negativi per creare un equilibrio sano nella conversazione. Purtroppo, ciò che accade è che le persone si entusiasmano incredibilmente per le potenzialità, ma poi non riflettono sulle conseguenze di ciò in cui potrebbero trovarsi coinvolte.”
Esistono diverse misure che le imprese possono adottare per garantire il raggiungimento di tale equilibrio:
1. Definire solidi quadri di riferimento per la governance dell’IA agentica
Iniziate definendo politiche e linee guida chiare che descrivano le modalità di utilizzo dell’IA agentica nelle vostre operazioni di sicurezza, comprese le regole decisionali e la conformità agli standard di settore. Ciò garantisce che tutti i membri dell’organizzazione comprendano i limiti e le responsabilità, compresa la corretta registrazione degli agenti impiegati, riducendo così il rischio di un uso improprio o di problemi legali. Riveda e aggiorni regolarmente tali quadri di riferimento per adattarli alle nuove minacce o normative, promuovendo una cultura della responsabilità.
«. Molti dei nostri collaboratori stanno creando i propri “agenti agenti” — il che è fantastico.» Ma dobbiamo… assicurarci che siano redatti e sviluppati seguendo linee guida adeguate.”Jeffrey DiMuro, vice responsabile della sicurezza informatica (CISO), ServiceNow
Questo è uno dei motivi per cui Jeffrey DiMuro, vice CISO di ServiceNow, che in precedenza si occupava di governance dei dati, rischi di sicurezza e rischi legati a terze parti presso l’azienda, mette in guardia contro la proliferazione dell’IA agentica in assenza di tale governance.
«Molti dei nostri collaboratori stanno creando i propri agenti autonomi, il che è fantastico», ha affermato. «Ma dobbiamo… assicurarci che siano scritti e sviluppati nel rispetto di adeguate misure di sicurezza, dobbiamo registrare tali [agenti] e dobbiamo garantire che non vi siano duplicazioni di sforzi, affinché tutti all’interno del nostro ambiente abbiano accesso a strumenti che siano stati convalidati.»
2. Definire i limiti dell’IA agentica tramite un controllo granulare degli accessi
Applichino controlli dettagliati su ciò a cui gli agenti di intelligenza artificiale possono accedere e sulle azioni che possono compiere, avvalendosi di modelli quali le autorizzazioni basate sui ruoli e i principi dello zero-trust per limitare l’esposizione. Ciò impedisce azioni non autorizzate e protegge le risorse critiche da potenziali minacce. Tali controlli garantiscono la massima tranquillità, assicurando che l’intelligenza artificiale rafforzi la sicurezza senza introdurre nuove vulnerabilità.
Ad esempio, un addetto alla sicurezza potrebbe disporre di un accesso in sola lettura per analizzare gli avvisi e consultare i registri, ma non può attuare misure correttive: segnala un account sospetto affinché venga esaminato da un operatore umano, anziché disattivarlo. Un altro agente potrebbe isolare automaticamente un endpoint compromesso, ma non è in grado di accedere al sistema di gestione delle identità per reimpostare le credenziali. Un terzo può applicare patch alle applicazioni vulnerabili, ma non può modificare le regole del firewall.
3. Promuovere il lavoro di squadra dell’IA agentica attraverso una difesa a più livelli
Predisponete più livelli di misure di sicurezza attorno ai sistemi di intelligenza artificiale, in modo che, qualora uno di essi dovesse fallire, gli altri possano subentrare per garantire la protezione.
Un agente SOC potrebbe Detect e isolare un endpoint compromesso, ma un livello separato di segmentazione della rete impedisce a tale endpoint di effettuare movimenti laterali. Un agente di gestione automatizzata delle patch applica gli aggiornamenti, ma un sistema di rollback separato consente di annullare le modifiche qualora le patch causassero il malfunzionamento di applicazioni critiche. Questo approccio a più livelli attenua l'impatto di qualsiasi singola violazione, garantendo la stabilità delle operazioni. Promuove un approccio alla sicurezza resiliente, in linea con gli obiettivi di continuità operativa.
4. Combina l’intelligenza artificiale agentica con la supervisione umana
Garantire il coinvolgimento di personale esperto nel monitoraggio e nell’approvazione delle decisioni chiave relative all’intelligenza artificiale, in particolare in situazioni di grande importanza. Questo modello ibrido si avvale del giudizio umano per integrare i punti di forza dell’intelligenza artificiale, riducendo così gli errori e migliorando l’affidabilità. La supervisione garantisce il rispetto dei principi etici e consente di intervenire tempestivamente quando necessario.
“È comunque necessario l’intervento umano. Ed ecco il principio “fidati, ma verifica”.”DiMuro
«Se si intende consentire a un assistente — definirò l’IA agentica un assistente che ha accesso a più informazioni di quante io ne abbia mai avute — di mettere in relazione tali dati e aiutarmi a procedere più rapidamente, è comunque necessario che un essere umano rimanga coinvolto nel processo.» «Ed ecco il suo “fidarsi ma verificare”», consigliò DiMuro.
5. Attuare test e verifiche continui dell’IA agentica
Simulate regolarmente attacchi e scenari per verificare le prestazioni dell’IA e individuare i punti deboli prima che questi possano influire sulle operazioni effettive. Questo processo continuo garantisce la solidità del sistema di fronte alle minacce in continua evoluzione.
Naturalmente, vale la regola d’oro dell’informatica: “garbage in, garbage out”. Le organizzazioni devono impegnarsi a garantire che i dati che immettono nei sistemi di intelligenza artificiale siano accurati e sicuri.
La triade dell’IA agente: trasparenza, fiducia e lavoro di squadra
È inoltre fondamentale rendere più comprensibili i processi decisionali basati sull’intelligenza artificiale, utilizzando strumenti che spieghino come si giunge ai risultati e registrando tutte le azioni per facilitarne la verifica.
«Sebbene l’IA agentica possa essere efficace già oggi, livelli adeguati di trasparenza e spiegabilità sono fondamentali per la fiducia e una buona governance.»Michael Farnum, CEO, Cybr.SEC.Community
Ciò rafforza la fiducia tra i team e le parti interessate, consentendo di individuare rapidamente eventuali problemi o anomalie. I sistemi trasparenti consentono inoltre di effettuare verifiche più efficaci e contribuiscono a dimostrare alle autorità di regolamentazione e ai partner l’uso etico dell’IA.
"Sebbene l'IA agentica possa già oggi rivelarsi efficace, livelli adeguati di trasparenza e spiegabilità sono fondamentali per la fiducia e una buona governance", ha affermato Michael Farnum, ex CISO consulente presso la società di consulenza tecnologica Trace3 e attual CEO e di Cybr.SEC.Community, una società specializzata in eventi dedicati alla sicurezza informatica con sede a Houston.
Infine, il team SOC deve essere preparato all’intelligenza artificiale e il personale dell’ e deve ricevere una formazione adeguata. I dirigenti dovrebbero valutare l’attuale infrastruttura della propria organizzazione, la disponibilità dei dati, le competenze del team e la cultura aziendale per individuare eventuali lacune prima di implementare l’intelligenza artificiale, garantendo così un’implementazione senza intoppi. L’offerta di programmi di formazione aiuta i dipendenti a collaborare in modo efficace con gli strumenti di intelligenza artificiale, consentendo loro di concentrarsi su attività di maggior valore. Tale preparazione mira a ridurre al minimo le resistenze e a massimizzare i guadagni in termini di produttività derivanti dall’integrazione dell’intelligenza artificiale.
Resta da vedere se agenti come i nostri personaggi di fantasia Sentinel, Hunter e Defender riusciranno a trovare un posto fisso come membri effettivi all’interno dei moderni team operativi di sicurezza. Ma per il momento sono qui e sembrano essere d’aiuto, pertanto i responsabili della sicurezza devono familiarizzarsi con loro, comprenderne i punti di forza e di debolezza e trarne il massimo vantaggio.
Ai loro team di sicurezza, ormai oberati di lavoro, farebbe sicuramente comodo un po’ di aiuto.
