Come una governance intelligente può contenere la proliferazione agentiva

Le imprese stanno adottando l’intelligenza artificiale agentica a un ritmo sempre più sostenuto, spesso più rapido di quanto i loro modelli di governance siano in grado di sostenere. La ricerca dell’efficienza e dell’innovazione potrebbe portare alla messa in produzione di agenti sperimentali , creando rischi nuovi e sottovalutati per le operazioni IT e i team di sicurezza informatica.

La sfida non consiste semplicemente nel gestire i singoli agenti, bensì nel governare un ecosistema in continua espansione di agenti che interagiscono, delegano ed eseguono decisioni alla velocità delle macchine in tutta l’azienda. Quando gli agenti avviano una serie di flussi di lavoro automatizzati, piccoli disallineamenti o errori di configurazione possono aggravarsi rapidamente, soprattutto quando gli agenti pianificano nuovi approcci, creano e delegano compiti agli agenti subordinati, accedono a dati sensibili o riconfigurano i sistemi a una velocità tale che gli esseri umani non riescono a tenere il passo, figuriamoci a gestirli.

[Scoprite in che modo gli agenti di intelligenza artificiale autonomi creano nuove superfici di attacco e perché la visibilità " endpoint " è fondamentale per difendersi da essi]

Lo scorso novembre, un rapporto di McKinsey intitolato “ ” ( ) ha rivelato che il 23% delle organizzazioni sta già implementando su larga scala un sistema di IA agentica in qualche ambito della propria azienda, mentre un ulteriore 39% sta sperimentando l’uso di agenti. In termini di anni di diffusione dell’IA, “ novembre 2025 ” sembra ormai appartenere a una generazione fa, e il livello di diffusione a metà del 2026 è sicuramente più elevato. Il lancio del modello Opus 4,6 di Anthropic nell’ambito dell’ febbraio 2026 sembra aver innescato una vera e propria rivoluzione nel settore e coincide con quanto riportato dalla stessa Anthropic nell’ marzo 2026 e nel rapporto , secondo cui l’utilizzo di una specifica categoria di flussi di lavoro API incentrati sull’automazione è raddoppiato rispetto a novembre 2025; ciò indica un aumento delle attività automatizzate e basate su agenti tramite Claude Code e l’API di Claude (a fronte di un aumento minore delle interazioni in stile chatbot con Claude.ai). Questo ritmo non farà che ampliare le lacune di governance, che diventeranno più difficili da Detect e più costose da correggere.

A marzo, il codice sorgente di Claude Code (il front-end da riga di comando per interagire con Claude) è stato pubblicato accidentalmente da Anthropic. Sebbene non siano stati resi noti i segreti fondamentali dei metodi di addestramento o dei pesi dei modelli di Anthropic, ciò ha comunque consentito ai ricercatori di comprendere meglio uno degli strati delle misure di protezione adottate da Anthropic. La linea guida, almeno dal punto di vista del cliente, è quella della “difesa basata sulle sensazioni” (un’espressione a cui ha fatto riferimento la mia istanza di Claude quando “noi” abbiamo analizzato insieme la fuga di informazioni dalla mappa sorgente). Nella scheda di sistema relativa a “ ” 7 aprile e “Mythos Preview”, Anthropic afferma: «Claude Mythos Preview è, sotto praticamente ogni aspetto misurabile, il modello con il miglior allineamento che abbiamo rilasciato fino ad oggi, con un margine significativo». Ciononostante, riteniamo che esso rappresenti probabilmente il rischio maggiore in termini di allineamento rispetto a qualsiasi altro modello da noi pubblicato finora.” È uno strumento potente, ma richiede delle misure di sicurezza. Proseguono spiegando che proprio queste capacità, che rendono il modello così potente, sono anche quelle che, secondo loro, aumenteranno il rischio. Come nell’alpinismo, per affrontare le scalate più pericolose è necessaria una guida più esperta, ma ciò non rende l’impresa meno pericolosa. Anche se meglio coordinate, le misure adottate potrebbero comunque rivelarsi incredibilmente rischiose.

L'adozione di agenti altamente flessibili richiede modelli di governance che siano all'altezza della loro autonomia, capacità di giudizio e portata.

Sebbene i set di istruzioni e le preferenze dell’IA possano diventare parte integrante di una strategia globale di difesa a più livelli, per la maggior parte dei puristi della sicurezza si tratta di un boccone amaro da mandare giù. Siamo abituati a ricorrere a controlli tecnici formali, misurabili e precisi, ma insegnare agli agenti di intelligenza artificiale a rispettare le regole comporta, ad esempio, inserire indicazioni del tipo: «Se sospettate un comportamento dannoso, segnalatelo», in un file delle preferenze o in un set di istruzioni. Ciò potrebbe contribuire a prevenire alcuni guasti, ma si tratta solo di una linea guida, non di una regola. L'adozione di questi agenti altamente flessibili richiede modelli di governance che siano all'altezza della loro autonomia, capacità di giudizio e portata. Mentre le organizzazioni passano rapidamente dalla fase di sperimentazione a quella di produzione, i responsabili IT e della sicurezza devono rivalutare non solo le funzioni degli agenti, ma anche le modalità con cui i sistemi composti da agenti vengono monitorati, soggetti a restrizioni e chiamati a rispondere delle proprie azioni.

I rischi dell'intelligenza artificiale agentica

Da tre anni e mezzo le organizzazioni stanno sperimentando l’intelligenza artificiale generativa e stanno ancora cercando di comprendere appieno i rischi che possono accompagnarne i benefici. Nel complesso, stiamo imparando molto sulla gestione della memoria e del contesto, sulle misure di sicurezza e sugli hook, nonché su come sottoporre a test di stress i comportamenti allucinatori. Tali sfide si limitano per lo più alla diffusione di informazioni errate nel corso di una conversazione con l’IA, ma i flussi di lavoro basati sull’autonomia possono amplificare rapidamente i danni. La GenAI viene spesso associata a interazioni in stile chatbot e a cicli di richiesta-risposta. L’intelligenza artificiale agentica fa un passo in più: agisce in modo autonomo, e proprio in questo risiede un pericolo maggiore. Gli agenti basati sull’intelligenza artificiale sono in grado di operare su larga scala, agendo con una rapidità e un’ampiezza tali da sfuggire al controllo umano. Possono inoltre aggravare le decisioni errate lungo l’intero flusso di lavoro, in assenza di quella forza correttiva rappresentata dal giudizio riflessivo.

Quella che in precedenza era una teoria operante sta rapidamente diventando realtà. La scheda "Mythos Preview System" illustrava la capacità di una versione iniziale del modello Mythos di ragionare in modo creativo per giungere a uno sfruttamento efficace del software aziendale. Il settore ha intravisto alcuni spunti su ciò che potrebbe comportare un ecosistema avversario basato su agenti e su come gli strumenti basati su agenti possano seguire percorsi inaspettati per raggiungere i propri obiettivi. Anthropic ha implementato interventi formativi mirati per migliorare in modo sostanziale tali comportamenti nella versione finale di Mythos Preview, e tali risultati costituiranno una base di riferimento per il lavoro sulla sicurezza nei modelli futuri. La natura stessa dell’intelligenza artificiale è tale che nemmeno il miglior allineamento possibile garantisce il rispetto perfetto delle regole, e i modelli più potenti possono avere un impatto maggiore a causa delle azioni impreviste che compiono.

Il costo dell’espansione incontrollata degli agenti va ben oltre i notevoli rischi legati alla sicurezza e alla conformità. I singoli agenti potrebbero prendere decisioni contrastanti per diversi gruppi di lavoro o reparti aziendali, causando incertezza o cicli di conflitto. I carichi di lavoro ridondanti o i comportamenti incontrollati possono causare un’impennata dei costi dell’infrastruttura o un crollo della disponibilità. Oppure immagini un agente incaricato di accelerare l’applicazione delle patch che, per farlo, imponga riavvii immediati su tutta la rete, compromettendo i processi in corso e causando un’interruzione generalizzata dei servizi.

Un agente troppo zelante ha ritenuto che il modo più efficiente per ripulire una directory di file fosse quello di eliminare tutto ciò che risaliva a più di sei mesi prima.

Immagini un’altra persona incaricata di mettere ordine nelle caselle di posta elettronica, ma che poi archivi le e-mail che richiedono ancora un intervento urgente o che necessitano di un trattamento speciale ai fini della conformità. Scrivo sulla base della mia esperienza personale: un agente troppo zelante ha deciso che il modo più efficiente per ripulire una directory di file fosse quello di eliminare tutto ciò che risaliva a più di sei mesi prima. Quando i miei hook preesistenti hanno impedito l'esecuzione di un comando di eliminazione, il programma ha individuato un comando che non gli avevo espressamente indicato di evitare e lo ha utilizzato al suo posto. Quella giornata è stata per me una lezione preziosa e sull’intelligenza artificiale (e non preoccupatevi, avevo dei backup).

In assenza di una governance adeguata e di un coinvolgimento umano (nel punto giusto in del processo), azioni che sembrano avere una portata modesta e intenzioni benevole possono causare danni a livello aziendale. I sei rischi principali legati all’introduzione in produzione di un’IA agentica senza solide misure di sicurezza sono:

1. o disordinato: gli agenti possono moltiplicarsi rapidamente, frammentando il lavoro e creando sovrapposizioni tra i team.
2. Deriva configurativa: Man mano che le istruzioni, le preferenze e le configurazioni subiscono variazioni, l’attività e l’impatto degli agenti possono mutare, con la conseguenza che essi finiscano per andare oltre lo scopo originario.
3. a di un’infrastruttura operativa fragile: gli agenti non controllati possono rendere i sistemi fragili, al punto che anche piccole modifiche possano provocare guasti imprevedibili.
4. Costi fuori controllo: L’intelligenza artificiale di tipo “Agentic” può richiedere una potenza di calcolo molto maggiore rispetto ai chatbot basati su GenAI, e uno sciame di agenti non adeguatamente gestiti che eseguono il codice 24/7 può rivelarsi incredibilmente costoso.
5. che rallentano la risposta agli incidenti: in assenza di un controllo adeguato, diventa difficile risalire a quale agente abbia agito, per quale motivo abbia agito o quale sia stata la portata del suo impatto.
6. Sfiducia nei sistemi autonomi: il comportamento imprevedibile degli agenti mina la fiducia nell’automazione e ne rallenta l’adozione.

La governance contribuisce a mantenere l’IA agentica sulla strada giusta, stabilendo limiti chiari, verificando la conformità dei comportamenti rispetto alle intenzioni definite e rendendo le azioni degli agenti trasparenti e soggette a responsabilità. Grazie all’utilizzo di ambienti sandbox, ambienti di test, alla supervisione con intervento umano e a un processo decisionale trasparente, le organizzazioni possono prevenire una crescita incontrollata, individuare tempestivamente comportamenti rischiosi e rafforzare la fiducia nei sistemi autonomi prima che eventuali problemi raggiungano l’ambiente di produzione.

Elementi di una governance agenziale

L'obiettivo della governance degli agenti è garantire che le azioni e i risultati siano sicuri e in linea con le pratiche di sicurezza, gli obblighi normativi, le pratiche in materia di privacy e gli obiettivi aziendali. Il raggiungimento di questi obiettivi richiede una stretta collaborazione tra i team IT e quelli addetti alla sicurezza. Ritengo, infatti, che queste squadre non possano più permettersi di considerarsi come entità separate. I loro flussi di lavoro e il ritmo con cui operano saranno così strettamente interconnessi che dovranno lavorare in perfetta sincronia tra loro e con la tecnologia che li supporta. È necessario definire sin dall’inizio una strategia di governance e collaborazione che si evolva di pari passo con le capacità dell’intelligenza artificiale.

È necessario adottare politiche di governance guidate dall’uomo per evitare o contenere un’esplosione inutile del numero di agenti.

È possibile suddividere le preoccupazioni relative alla proliferazione degli agenti in due categorie: quelle di natura umana e quelle di natura tecnica. Gli esseri umani finiranno involontariamente per provocare una proliferazione incontrollata di agenti quando singoli individui e team creeranno nuovi agenti a loro piacimento per gestire compiti specifici, magari senza tenere conto delle migliori pratiche generali relative alle modalità e ai tempi di creazione, gestione e disattivazione di un agente. È necessario che siano in vigore queste politiche di governance guidate dall’uomo per evitare o contenere un’esplosione inutile del numero di agenti. Anche alcune delle considerazioni tecniche riportate nella sezione seguente affrontano questo rischio.

Passando agli aspetti tecnici della gestione degli agenti di intelligenza artificiale aziendali, iniziamo dalle nozioni di base:

• Si raccomanda di testare accuratamente gli agenti prima della loro implementazione. Non si può mai sottolineare abbastanza questo aspetto.
• Si definiscano la titolarità e la responsabilità relative a ciascun agente di intelligenza artificiale.
• Limiti le autorizzazioni degli agenti utilizzando controlli di accesso basati sul principio del privilegio minimo.
• Registrare e monitorare l'attività degli agenti per consentire l'audit e la risoluzione dei problemi.
• Definire le politiche relative all’uso corretto e alla conformità normativa.
• Assicuratevi che gli esseri umani siano sempre informati in caso di azioni ad alto rischio o irreversibili. L'intelligenza artificiale è ancora agli albori e alcune attività si prestano meglio di altre a un'adozione precoce.

Questi sono i requisiti minimi; i team addetti alla sicurezza informatica e alle operazioni IT dovrebbero fare qualche passo in più:

1. Considerate gli agenti di intelligenza artificiale come una nuova categoria di attori. Gli agenti non sono i tipici servizi software deterministici, né sono tenuti a rendere conto delle proprie azioni né ci si aspetta che esercitino un giudizio etico e contestuale come farebbero i dipendenti umani. Le imprese dovrebbero definire una classificazione distinta per gli agenti che tenga conto della loro autonomia e del loro comportamento probabilistico e che stabilisca politiche, processi di revisione e percorsi di escalation adeguati. L'agente è un'identità e un'applicazione e un comportamento da monitorare: tutto in uno.
2. Controllate le intenzioni di un agente, non solo il suo accesso. Il controllo delle API rappresenta un passo fondamentale nella gestione degli agenti di intelligenza artificiale, ma non è sufficiente. L'azienda deve definire quali siano gli obiettivi che un agente si propone di raggiungere e quali siano i limiti alle sue azioni. Ciò comprende la sua capacità di creare sotto-agenti o di interagire con altri sistemi agenti che potrebbero disporre di autorizzazioni superiori, obiettivi contrastanti o limiti diversi.
3. Osservate il comportamento, non solo i risultati. È importante valutare non solo i risultati ottenuti da un agente, ma anche le sue decisioni nel contesto. Se non si conosce il motivo e il modo in cui un agente è passato dallo stimolo alle opzioni decisionali fino all’azione finale, non si può sapere con certezza se esso funzioni correttamente. Questo livello di tracciabilità è inoltre fondamentale ai fini della conformità normativa e delle indagini relative agli incidenti di sicurezza. Questo aspetto rappresenta una delle maggiori sfide da affrontare e, al momento, non esiste una soluzione valida per tutti i casi.
4. Limitate la loro indipendenza. Oltre ai controlli di accesso basati sul principio del privilegio minimo, si richieda agli agenti di attenersi a uno standard di certezza nell’intraprendere azioni. Si richiede agli agenti di coinvolgere un operatore umano qualora il livello di affidabilità di un’azione proposta scenda al di sotto di una soglia accettabile. L'eccessiva sicurezza è una caratteristica distintiva dei risultati generati dai modelli LLM, e possono sorgere rischi considerevoli quando un agente di intelligenza artificiale, di fatto, “bluffa” di fronte all’incertezza anziché richiedere ulteriore supporto.
5. Prevedete gli errori e progettate in modo da contenerli. Gli agenti finiranno per agire in modo inaspettato. Le organizzazioni dovrebbero limitare l'ambito dei sistemi su cui un agente può influire e fissare un limite alla frequenza con cui esso può intervenire, in modo da consentire alle organizzazioni di disattivare tempestivamente un agente, limitandone i danni.
6. Valutate regolarmente le autorizzazioni e gli obiettivi. Gli agenti sono sistemi adattivi che operano in ambienti in continua evoluzione. Man mano che cambiano le indicazioni, i modelli e le esigenze organizzative, autorizzazioni e obiettivi obsoleti possono generare incertezza o comportare rischi.

Questi principi dovrebbero contribuire a garantire il rispetto delle regole da parte di qualsiasi agente. Tuttavia, per gestire l’ulteriore rischio di una proliferazione incontrollata degli agenti, occorre tenere conto di ulteriori aspetti che considerano gli agenti come un sistema.

Quattro fattori per un controllo delle folle basato sull’autonomia individuale

Se considerato isolatamente, un agente mal gestito comporta dei rischi per l’organizzazione. Quando il numero di agenti all’interno dell’azienda cresce in modo esponenziale, cresce di conseguenza anche il rischio potenziale. Man mano che l’azienda introduce un numero crescente di agenti in produzione (e tali agenti generano a loro volta, forse, dei sotto-agenti per portare a termine i propri compiti), la governance deve assumere una nuova dimensione. Non si tratta semplicemente di gestire singoli strumenti, bensì un ecosistema complesso e in rapida evoluzione costituito da agenti automatizzati basati su modelli probabilistici. Tra gli aspetti fondamentali da considerare a questo livello figurano:

1. Inventario centralizzato e registro degli agenti. Come nel caso degli endpoint, non è possibile gestire gli agenti che non si vedono; pertanto, la prima cosa da fare è creare un inventario centralizzato. Una volta fatto ciò, non si considerino solo i singoli agenti, ma l’intero portafoglio. Nel complesso, il sistema degli agenti riflette la missione e gli obiettivi dell’impresa? È possibile che tali agenti, nel loro insieme, comportino rischi che potrebbero non risultare evidenti a livello individuale?
2. Osservabilità continua e governance completa. Per gestire un sistema di agenti, è necessario avere una visione d’insieme dell’intero sistema. Una visione d’insieme consente di comprendere in che modo gli agenti interagiscono, dove si verificano sovrapposizioni di autorità e come il rischio si accumula all’interno del sistema degli agenti. Il monitoraggio e la governance centralizzati consentono alle organizzazioni di applicare le politiche in modo coerente in tutto il sistema degli agenti, di Detect le derive nel tempo e di intervenire rapidamente quando il comportamento degli agenti si discosta dagli obiettivi aziendali.
3. Gestione del ciclo di vita. Gli agenti dimenticati nel corso del tempo, oppure sostituiti con strumenti più efficaci ma mai disattivati, potrebbero continuare a operare, consumare risorse o diventare una superficie di attacco non identificata. Le aziende necessitano di piani chiari per identificare e dismettere gli agenti che risultano superflui o che non sono più funzionali all’attività aziendale.
4. Monitoraggio dell'utilizzo delle risorse e gestione dei costi. È necessario tenere in considerazione l’effetto cumulativo degli agenti sulle risorse aziendali. Un determinato agente può rientrare nei parametri e garantire un buon livello di efficienza, ma è importante comprendere l’utilizzo complessivo delle risorse e avere una visione chiara dei casi in cui tali parametri vengono superati.

Sebbene le sfide poste da un ecosistema di agenti in continua espansione si manifestino nel corso del tempo, ben dopo che gli agenti iniziali sono entrati in produzione, è necessario adottare fin dall’inizio un approccio sistemico alla governance degli agenti. Prima che il primo agente entri in produzione, le organizzazioni dovrebbero valutare come gestire e proteggere un ecosistema più ampio di agenti che interagiscono tra loro.

La governance rende scalabile l’impresa basata sull’autonomia decisionale

Oggi stiamo cercando di adattare a tutti i costi i sistemi probabilistici ai vecchi controlli tecnici binari. È necessario trovare un equilibrio tra l’adozione di tecnologie innovative, il cambiamento del dibattito su ciò a cui i controlli tecnici si adattano (e non si adattano) e l’adeguamento della governance all’era moderna. Le organizzazioni che adottano una nuova prospettiva sul significato di buona governance consentiranno la trasformazione digitale e ne garantiranno la resilienza nel corso di tale processo. Tali organizzazioni si distingueranno dalla massa in termini di produttività e innovazione. Agire nel modo corretto non significa limitare l’intelligenza artificiale, ma garantire che i sistemi autonomi agiscano costantemente al servizio dei risultati aziendali previsti.

Sebbene i principi fondamentali della governance siano ben noti ai team addetti alla sicurezza e alle operazioni, l’intelligenza artificiale agentica modifica radicalmente la portata, il ritmo e la natura della sfida. La governance deve ora tenere conto di sistemi in continua evoluzione costituiti da agenti che agiscono e interagiscono al di fuori del controllo umano diretto e, talvolta, di quelli che operano secondo il principio della “difesa basata sull’intuito”, il che potrebbe rappresentare una nuova frontiera scomoda per coloro che sono professionisti esperti del settore. In tal senso, le organizzazioni devono tornare ai principi fondamentali — non per ricreare i vecchi meccanismi di controllo, ma per ripensare la governance partendo da zero in vista di un’era caratterizzata da processi decisionali autonomi. Se attuata correttamente, tale governance impedirà che la proliferazione degli agenti si trasformi in un caos distruttivo e garantirà che la velocità e la portata rimangano punti di forza anziché ostacoli.