Come una governance intelligente può contenere l’espansione degli agenti

Le aziende stanno adottando l’ IA agentica a un ritmo accelerato, spesso più velocemente di quanto i loro modelli di governance possano supportare. La spinta all’efficienza e all’innovazione può spingere gli agenti sperimentali alla produzione, creando rischi nuovi e sottovalutati per le operazioni IT e i team di sicurezza informatica.

La sfida non è solo quella di gestire i singoli agenti, ma di governare un vasto ecosistema di agenti che interagiscono, delegano ed eseguono le decisioni alla velocità della macchina in tutta l'azienda. Quando gli agenti avviano una serie di flussi di lavoro automatizzati, piccoli disallineamenti o configurazioni errate possono aggravarsi rapidamente, soprattutto quando gli agenti pianificano nuovi approcci, creano e delegano ad agenti subordinati, accedono a dati sensibili o riconfigurano i sistemi più velocemente di quanto gli esseri umani possano tracciare, e tanto meno gestire.

[Comprendere in che modo gli agenti autonomi di IA introducono nuove superfici di attacco e perché la visibilità degli endpoint è fondamentale per difendersi da esse]

Lo scorso novembre, McKinsey ha riferito che il 23% delle organizzazioni sta già scalando un sistema di IA agentica da qualche parte nella propria azienda e un altro 39% sta sperimentando con gli agenti. Negli anni dell’adozione dell’IA, novembre 2025 sembra una generazione fa e l’adozione a metà del 2026 è sicuramente più alta. Il rilascio del modello Opus 4,6 di Anthropic febbraio 2026 nel sembra aver acceso una miccia in tutto il settore e si correla con i marzo 2026 report di Anthropic che mostrano che l’utilizzo di specifiche categorie di flusso di lavoro API incentrate sull’automazione è raddoppiato dal novembre 2025, e indica un aumento verso il lavoro agentico guidato dall’automazione tramite Claude Code e l’API Claude (e meno di un aumento delle interazioni in stile chatbot con Claude.ai). Questo ritmo amplierà anche le lacune di governance che diventano più difficili da Detect e più costose da correggere.

A marzo, il codice sorgente di Claude Code (il front-end della linea di comando per interagire con Claude) è stato pubblicato accidentalmente da Anthropic. Anche se non ha rilasciato i gioielli della corona dei metodi di allenamento di Anthropic o dei pesi dei modelli, ha dato ai ricercatori una visione più ampia di uno strato delle protezioni di Anthropic. La guida è, almeno sul lato client, "difesa dalle vibrazioni" (una frase a cui la mia istanza di Claude ha fatto riferimento quando "noi" abbiamo analizzato insieme la perdita della mappa di origine). Nella 7 aprile scheda di sistema Mythos Preview, Anthropic afferma: “Claude Mythos Preview è, essenzialmente su ogni dimensione che possiamo misurare, il modello meglio allineato che abbiamo rilasciato fino ad oggi con un margine significativo. Anche così, crediamo che probabilmente rappresenti il più grande rischio relativo all’allineamento di qualsiasi modello che abbiamo rilasciato fino ad oggi”. È potente, ma richiede guardrail. Continuano a spiegare che queste funzionalità che rendono il modello così potente sono anche ciò che si aspettano aumenterà il rischio. Come nell’alpinismo, una guida più esperta è necessaria per portarti su salite più pericolose, ma questo non lo rende meno pericoloso da fare. Anche se meglio allineate, le azioni intraprese possono comunque essere incredibilmente rischiose.

L’adozione di agenti altamente flessibili richiede modelli di governance che corrispondano alla loro autonomia, giudizio e scala.

Mentre i set di istruzioni e le preferenze dell’IA possono diventare parte di una strategia di difesa in profondità completa, è una pillola difficile da ingoiare per la maggior parte dei puristi della sicurezza. Siamo abituati a sfruttare controlli tecnici formali, misurabili e precisi, ma insegnare agli agenti di IA a rispettare le regole include cose come “Se sospetti un comportamento dannoso, segnalalo” in un file di preferenze o set di istruzioni. Questo può aiutare a prevenire alcuni guasti, ma è solo una linea guida, non una regola. L’adozione di questi agenti altamente flessibili richiede modelli di governance che corrispondano alla loro autonomia, giudizio e scala. Mentre le organizzazioni passano dalla sperimentazione alla produzione, i responsabili IT e della sicurezza devono rivalutare non solo ciò che fanno gli agenti, ma anche come i sistemi degli agenti vengono monitorati, vincolati e ritenuti responsabili.

I rischi dell’IA agentica

Per tre anni e mezzo, le organizzazioni hanno sperimentato l’IA generativa e stanno ancora affrontando i rischi che possono accompagnare i suoi benefici. Collettivamente, stiamo imparando molto sulla gestione della memoria e del contesto, sulle misure di salvaguardia e sui ganci e su come testare il comportamento allucinatorio. Queste sfide sono per lo più limitate a informazioni errate in una conversazione con l’IA, ma i flussi di lavoro agentici possono amplificare rapidamente i danni. La GenAI è spesso associata alle interazioni in stile chatbot e ai cicli di risposta prompt. L'IA agentica fa un ulteriore passo avanti: richiede un'azione indipendente, e qui sta un pericolo maggiore. Gli agenti di IA possono eseguire su larga scala, muovendosi più velocemente e in modo più ampio di quanto la supervisione umana possa tracciare. Possono anche aggravare le decisioni sbagliate in un flusso di lavoro senza la forza correttiva del giudizio riflessivo.

Ciò che prima funzionava in teoria sta rapidamente diventando realtà. La Mythos Preview System Card ha documentato la potenza di una prima versione del modello Mythos per giustificare in modo creativo il suo modo di sfruttare con successo il software aziendale. L’industria ha visto lampi di ciò che un ecosistema agentico avversario potrebbe portare e di come gli strumenti agentici possano prendere strade inaspettate per raggiungere i propri obiettivi. Anthropic ha applicato interventi di formazione per migliorare sostanzialmente questi comportamenti nella versione finale di Mythos Preview, e questi risultati informeranno il lavoro di sicurezza nei modelli futuri. La natura dell’IA è che anche l’allineamento migliore della categoria non garantisce il perfetto rispetto delle regole e modelli più potenti possono avere un impatto maggiore con azioni impreviste che intraprendono.

Il prezzo della proliferazione agentica va oltre i considerevoli rischi per la sicurezza e la conformità. I singoli agenti possono prendere decisioni contrastanti per diversi team di lavoro o reparti aziendali, causando incertezza o cicli di conflitto. I carichi di lavoro ridondanti o i comportamenti fuori controllo possono causare un picco dei costi dell'infrastruttura o un crollo della disponibilità. Oppure immaginate un agente incaricato di accelerare la conformità delle patch che lo fa forzando riavvii immediati sull'intera rete, corrompendo i processi in corso e creando interruzioni del servizio diffuse.

Un agente troppo ansioso ha deciso che il modo più efficiente per ripulire una directory di file era quello di eliminare qualcosa di più vecchio di sei mesi.

Immagina un altro incaricato di riordinare le caselle di posta elettronica, ma poi archivia le e-mail che richiedono ancora un'azione critica o che richiedono una gestione speciale ai fini della conformità. Scrivo per esperienza personale: un agente troppo ansioso ha deciso che il modo più efficiente per ripulire una directory di file era quello di eliminare qualcosa di più vecchio di sei mesi. Quando i miei ganci preesistenti gli hanno impedito di eseguire un comando per eliminare, ha trovato un comando che non avevo esplicitamente detto di evitare e lo ha usato invece. È stata una lezione preziosa per me e per l’IA quel giorno (e non preoccuparti, avevo dei backup).

Senza un’adeguata governance e un “human-in-the-loop” (nel posto giusto nel ciclo), le azioni che sembrano avere una portata modesta e un intento benigno possono causare danni in tutta l’azienda. Sei rischi significativi di mettere in produzione l’IA agentica senza barriere solide sono:

1. Sprawl: gli agenti possono moltiplicarsi rapidamente, frammentando il lavoro e creando sovrapposizioni tra i team.
2. Creep di configurazione: man mano che prompt, preferenze e configurazioni si spostano, l'attività e l'impatto degli agenti possono cambiare, portandoli oltre il loro intento originale.
3. Infrastruttura operativa fragile: gli agenti non governati possono rendere i sistemi fragili, in modo tale che piccoli cambiamenti possano innescare guasti imprevedibili.
4. Costi di instabilità: l'IA agentica può utilizzare molto più calcolo rispetto ai chatbot GenAI e uno sciame di agenti sottogestiti che eseguono 24/7 può essere incredibilmente costoso.
5. Risposta agli incidenti rallentata: senza supervisione, diventa difficile rintracciare quale agente ha agito, perché ha agito o quanto si è diffuso il suo impatto.
6. Sfiducia nei sistemi autonomi: il comportamento imprevedibile degli agenti erode la fiducia nell'automazione e ne rallenta l'adozione.

La governance aiuta a mantenere l’IA agentica in pista stabilendo confini chiari, convalidando il comportamento rispetto all’intento definito e rendendo visibili e responsabili le azioni degli agenti. Attraverso sandboxing, ambienti di test, supervisione umana e processo decisionale trasparente, le organizzazioni possono prevenire una crescita incontrollata, individuare precocemente i comportamenti a rischio e creare fiducia nei sistemi autonomi prima che i problemi raggiungano la produzione.

Elementi di governance agentica

L’obiettivo della governance degli agenti è garantire azioni e risultati sicuri in linea con le pratiche di sicurezza, gli obblighi normativi, le pratiche sulla privacy e gli obiettivi aziendali. Il raggiungimento di questi obiettivi richiede una stretta collaborazione tra i team IT e di sicurezza. Direi, infatti, che queste squadre non possono più permettersi di pensare a se stesse come squadre separate. I loro flussi di lavoro e il ritmo con cui lavorano saranno così strettamente intrecciati che avranno bisogno di lavorare a stretto contatto tra loro e con la loro tecnologia agentica. La governance e la strategia collaborativa devono essere stabilite in anticipo e si evolvono insieme alle capacità dell’IA.

Devono essere in atto politiche di governance guidate dall’uomo per evitare o contenere un’esplosione inutile di agenti.

Possiamo dividere le preoccupazioni sulla proliferazione degli agenti in due categorie: umane e tecniche. Gli esseri umani involontariamente ingegnerizzano la proliferazione agentica quando individui e team creano nuovi agenti a loro piacimento per gestire compiti mirati, forse senza considerare le migliori pratiche complessive su come e quando creare, gestire e ritirare un agente. Queste politiche di governance guidate dall’uomo devono essere in atto per evitare o contenere un’inutile esplosione di agenti. Alcune delle considerazioni tecniche nella prossima sezione riguardano anche questo rischio.

Passando agli aspetti tecnici della gestione degli agenti di intelligenza artificiale aziendale, iniziamo con le basi:

• Testare gli agenti in modo approfondito prima della distribuzione. Questo non può essere sopravvalutato.
• Definire la proprietà e la responsabilità di ogni agente IA.
• Limitare le autorizzazioni degli agenti utilizzando i controlli di accesso con privilegi minimi.
• Registrare e monitorare l'attività agentica per consentire il controllo e la risoluzione dei problemi.
• Stabilire politiche per un uso accettabile e la conformità normativa.
• Mantieni gli esseri umani nel ciclo per azioni ad alto rischio o irreversibili. L’IA è ancora nella sua fase iniziale e alcuni compiti sono più adatti all’adozione anticipata rispetto ad altri.

Queste sono le cose da fare; i team operativi di sicurezza informatica e IT dovrebbero fare qualche passo in più:

1. Tratta gli agenti IA come una nuova classe di attori. Gli agenti non sono i tipici servizi software deterministici, né sono responsabili o ci si aspetta che abbiano un giudizio etico e contestuale come farebbero i dipendenti umani. Le aziende dovrebbero definire una classificazione separata per gli agenti che tenga conto della loro autonomia e del loro comportamento probabilistico e stabilisca politiche, processi di revisione e percorsi di escalation appropriati. L'agente è un'identità e un'applicazione e un comportamento da monitorare tutto in uno.
2. Governare l'intento di un agente, non solo il suo accesso. Il controllo delle API è un passaggio chiave nel governo degli agenti di IA, ma non è sufficiente. L'impresa deve definire ciò che un agente sta cercando di ottenere e quali sono i limiti delle sue azioni. Ciò include la sua capacità di creare subagenti o di lavorare con altri sistemi agentici che possono avere autorizzazioni più elevate, obiettivi in conflitto o limiti diversi.
3. Osservare il comportamento, non solo i risultati. È importante valutare non solo i risultati di un agente, ma le sue decisioni nel contesto. Se non sai perché e come un agente è passato dalle opzioni di decisione al prompt all'azione finale, non sai se funziona correttamente. Questo livello di tracciabilità è fondamentale anche per le indagini sugli incidenti di conformità e sicurezza. Questo elemento è uno dei più difficili da ottenere e non ha una risposta unica oggi.
4. Limitare la loro indipendenza. Oltre ai controlli di accesso con privilegi minimi, è necessario che gli agenti agiscano secondo uno standard di certezza. Richiedere agli agenti di portare un essere umano nel ciclo quando la fiducia in un'azione proposta scende al di sotto di una soglia accettabile. L'eccessiva fiducia è un segno distintivo degli output LLM e possono esserci rischi considerevoli quando un agente di IA bluffa essenzialmente attraverso l'incertezza piuttosto che intensificare per il supporto.
5. Prevedere errori e progettazione per il contenimento. Gli agenti alla fine agiranno in modo inaspettato. Le organizzazioni dovrebbero limitare l’ambito dei sistemi che un agente può influenzare e limitare la frequenza con cui può agire per consentire alle organizzazioni di disabilitare un agente in modo tempestivo, con danni limitati.
6. Valutare regolarmente autorizzazioni e obiettivi. Gli agenti sono sistemi adattivi che lavorano in ambienti in continua evoluzione. Man mano che i prompt, i modelli e le esigenze organizzative cambiano, autorizzazioni e obiettivi obsoleti possono creare incertezza o rischi.

Questi principi dovrebbero aiutare a tenere in riga qualsiasi agente. Ma per gestire l'ulteriore rischio di sprawl agentico, ci sono ulteriori considerazioni che trattano gli agenti come un sistema.

Quattro fattori per il controllo agentico della folla

In isolamento, un agente mal governato pone rischi per l'organizzazione. Quando il numero di agenti nell'azienda cresce in modo esponenziale, aumenta anche il rischio potenziale. Man mano che l'azienda porta più agenti in produzione (e questi agenti forse generano sub-agenti per completare i loro compiti), la governance deve assumere una nuova dimensione. Non stai solo governando singoli strumenti, ma un complesso ecosistema in rapida evoluzione di attori meccanici probabilistici. Le considerazioni chiave a questo livello includono:

1. Inventario centralizzato e registro degli agenti. Come per gli endpoint, non è possibile gestire gli agenti che non si vedono, quindi stabilire un inventario centralizzato è la prima attività. Con questo risultato, considerare non solo i singoli agenti, ma l'intero portafoglio. Nel complesso, il sistema degli agenti riflette la missione e gli obiettivi dell'azienda? Gli agenti pongono collettivamente rischi che potrebbero non essere evidenti a livello individuale?
2. Osservabilità continua e governance completa. Per governare un sistema di agenti, è necessaria la visibilità dell'intero sistema. Una visualizzazione consolidata rivela come gli agenti interagiscono, dove si sovrappongono le autorità e come il rischio si accumula nel sistema agentico. Il monitoraggio e la governance centralizzati consentono alle organizzazioni di applicare le policy in modo coerente in tutto il sistema agentico, Detect la deriva nel tempo e intervenire rapidamente quando il comportamento degli agenti si discosta dall’intento aziendale.
3. Gestione del ciclo di vita. Gli agenti dimenticati nel tempo, o sostituiti con strumenti migliori ma mai disattivati, possono continuare ad agire, utilizzare risorse o diventare una superficie di attacco non riconosciuta. Le aziende hanno bisogno di piani chiari per identificare e ritirare gli agenti che sono ridondanti o che non servono più l'azienda.
4. Monitoraggio dell'utilizzo delle risorse e gestione dei costi. L'effetto cumulativo degli agenti sulle risorse aziendali deve essere preso in considerazione. Qualsiasi agente può rientrare nei parametri e fornire efficienze, ma è importante comprendere l'utilizzo complessivo delle risorse e avere informazioni su dove sta superando i parametri.

Mentre le sfide di un ecosistema agentico tentacolare si manifestano nel tempo, ben dopo che gli agenti iniziali entrano in produzione, la riflessione a livello di sistema sulla governance agentica dovrebbe essere presente all’inizio. Prima che il primo agente entri in produzione, le organizzazioni dovrebbero considerare come gestire e proteggere un ecosistema più ampio di agenti interagenti.

La governance rende scalabile l’impresa agentica

Oggi stiamo tentando di adattare i sistemi probabilistici ai controlli tecnici binari del passato. C’è un equilibrio da raggiungere all’intersezione tra l’adozione di tecnologie innovative, il cambiamento del discorso su ciò a cui i controlli tecnici si adattano (e non si adattano) e la traduzione della governance per l’era moderna. Le organizzazioni che applicano una nuova lente a ciò che significa buona governance consentiranno la trasformazione digitale e proteggeranno la resilienza nel processo. Queste organizzazioni si allontaneranno dal pacchetto in termini di produttività e innovazione. Farlo nel modo giusto non significa limitare l’IA, ma garantire che i sistemi autonomi agiscano costantemente al servizio dei risultati aziendali previsti.

Mentre le basi della governance sono familiari ai team di sicurezza e operativi, l’IA agentica cambia radicalmente la portata, il ritmo e la forma della sfida. La governance deve ora tenere conto dell’ evoluzione dei sistemi di agenti che agiscono e interagiscono al di là della diretta supervisione umana, e talvolta quelli che operano sulla “difesa dalle vibrazioni”, che può essere una nuova frontiera scomoda per coloro che sono professionisti esperti nel campo. In questo senso, le organizzazioni devono tornare ai principi fondamentali, non per ricreare i vecchi controlli, ma per ripensare la governance da zero per un’era di processi decisionali autonomi. Fatta bene, quella governance impedirà che la proliferazione agentica diventi un caos distruttivo e assicurerà che la velocità e la scala rimangano attività piuttosto che passività.