La tecnologia dell’IA generativa sta già garantendo ad alcune aziende all’avanguardia un notevole incremento in termini di vendite, assistenza clienti, marketing e automazione, mentre innumerevoli altre imprese stanno preparando il proprio personale all’introduzione della GenAI nel nuovo anno. La prospettiva di un’impennata della produttività è estremamente allettante, ma le aziende devono essere consapevoli dei rischi che si assumono quando implementano l’intelligenza artificiale e il ruolo dell’intelligenza artificiale nella sicurezza informatica.
Come per ogni altra tecnologia digitale connessa, i modelli linguistici di grandi dimensioni (LLM) basati sull’intelligenza artificiale generativa (GenAI), i dati su cui vengono addestrati — e i dipendenti che li utilizzano — possono causare potenziali fughe di dati e attacchi di tipo “ ”. In effetti, si sono già verificati un paio di casi di fughe di notizie sensazionali:
In tre diverse occasioni la scorsa primavera, alcuni dipendenti Samsung hanno inavvertitamente divulgato materiale sensibile a ChatGPT durante un caricamento sul servizio, tra cui codice software e la registrazione di una riunione, costringendo l’azienda a vietare l’uso dei servizi GenAI tra il personale. (La praticità di prodotti come ChatGPT o Bard di Google fa sì che si dimentichi facilmente che le conversazioni che si intrattengono con tali chatbot non sono private. Le informazioni da Lei inserite potrebbero essere rese pubbliche.) Solo poche settimane fa, alcuni dipendenti di Microsoft hanno accidentalmente reso accessibili 38 terabyte di dati di addestramento dei modelli di linguaggio di grandi dimensioni (LLM) mentre li caricavano sulla piattaforma per sviluppatori GitHub.
Questo tipo di violazione potrebbe verificarsi in qualsiasi azienda che utilizzi modelli di linguaggio di grandi dimensioni (LLM), ma ciò non dovrebbe frenare gli investimenti delle imprese nell’intelligenza artificiale generativa (GenAI).
Da un sondaggio condotto da Gartner a novembre è emerso che i dirigenti aziendali al di fuori del settore IT prevedono di destinare, in media, il 6,5% del proprio budget funzionale all’intelligenza artificiale generativa nel 2024 — un dato che l’ , l’Harvard Business Review,, e hanno definito «una quota sbalorditiva di risorse in un contesto caratterizzato da vincoli». E secondo un rapporto intitolato “ ” ( ) redatto da Bloomberg Intelligence, il mercato della GenAI potrebbe crescere del 42% all’anno e raggiungere i 1,3 trilioni di dollari entro il 2032. Ciò impone alle imprese la responsabilità di progettare, realizzare e implementare tali sistemi in modo sicuro; in caso contrario, gli autori delle minacce troveranno in questi modelli e nei dati che li alimentano una vera e propria miniera d’oro.
«L’intelligenza artificiale generativa è un potente strumento di produttività, ma dobbiamo sapere come garantire la sicurezza di questi sistemi», afferma Caleb Sima, ex responsabile della sicurezza (CSO) presso Robinhood Financial e attuale presidente dell’AI Safety Initiative della Cloud Security Alliance.
È indubbio che l’utilizzo dei modelli di linguaggio di grandi dimensioni (LLM) comporti numerosi rischi, quali gli attacchi di tipo “ ” (DDoS) , che potrebbero rendere il modello non disponibile per i clienti o i dipendenti. Esistono inoltre rischi legati alla sicurezza applicativa dei modelli stessi, nonché delle app che si integrano con essi — tutti fattori che potrebbero comportare la fuga di dati e il dirottamento dei modelli. C’è poi la questione dell’accesso: immaginate i problemi che potrebbero derivare dal concedere a un modello LLM un livello di autorizzazione elevato all’interno di un’organizzazione, consentendogli di accedere ad altri database e applicazioni o di svolgere attività quali l’emissione di assegni o l’interruzione dei servizi. Almeno per il prossimo futuro, i modelli di linguaggio di grandi dimensioni (LLM) dovranno essere tenuti sotto stretto controllo.
Per evitare violazioni della sicurezza legate ai modelli di linguaggio di grandi dimensioni (LLM) sarà necessario adottare misure specifiche volte a garantire la sicurezza di tali sistemi. Di seguito sono riportati i tre principali attacchi che, secondo gli esperti, le aziende potrebbero dover affrontare — seguiti da una sfida generale legata alla GenAI che ogni organizzazione dovrà sicuramente affrontare — e le modalità migliori per difendersi da ciascuno di essi:
1. Attacchi di iniezione di prompt
Di cosa si tratta? Ciò comporta che un malintenzionato crei un prompt, ovvero una richiesta (“Generare idee per il lancio di un nuovo prodotto a tema festivo”) o una domanda (“Qual è il percorso più veloce da Los Angeles a Boston?”) che indica a un modello di linguaggio di grandi dimensioni (LLM) ciò che si desidera che faccia – progettato per indurre l’LLM a compiere un’azione indesiderata o dannosa, come causare il crash di un’ App e o indurlo a rivelare informazioni riservate, indurre un chatbot del servizio clienti a richiedere dati personali o altre informazioni sensibili, concedere all’autore dell’attacco un accesso non autorizzato, creare malware o un articolo di fake news, oppure effettuare acquisti non autorizzati.
«L’intelligenza artificialegenerativa è un potente strumento di produttività, ma dobbiamo sapere come garantire la sicurezza di questi sistemi.”Caleb Sima, presidente dell’Iniziativa per la sicurezza dell’intelligenza artificiale della Cloud Security Alliance
La migliore difesa: Sebbene gli esperti sostengano che, al momento, non esista ancora alcun modo per difendersi completamente dagli attacchi di tipo “prompt injection” che prendono di mira i modelli di linguaggio di grandi dimensioni (LLM), esistono misure che le aziende possono adottare per mitigare il rischio. L’Open Web Application Security Project (OWASP) raccomanda quanto segue:
- Limiti l'accesso privilegiato di un modello di linguaggio di grandi dimensioni (LLM) o di un plug-in LLM ai livelli più bassi possibili. Ad esempio, la creazione di modelli di linguaggio di grandi dimensioni (LLM) specifici per determinati settori aziendali, quali ricerca e sviluppo, marketing e affari legali, a cui possano accedere esclusivamente gli utenti di tali divisioni. I plug-in per i modelli di linguaggio di grandi dimensioni (LLM) (che offrono a tali modelli funzionalità aggiuntive quali la traduzione linguistica o l’interazione con altre applicazioni e database) dovrebbero essere sottoposti a un’accurata verifica della sicurezza e utilizzati solo in misura minima.
- Coinvolga il personale ogni volta che sia possibile per verificare e approvare i risultati, in particolare quando il modello di linguaggio di grandi dimensioni (LLM) interagisce con dati o software esterni.
- Si raccomanda di separare le richieste agli utenti provenienti da fonti di contenuto esterne e di elaborarle in modo indipendente, al fine di evitare eventuali interazioni indesiderate.
- Trattate l’LLM come un utente non attendibile e limitate la sua capacità di interagire con utenti e sistemi solo a quanto strettamente necessario. Si tenga presente il principio del privilegio minimo. Quando si tratta di strumenti GenAI (e, del resto, di qualsiasi altro strumento o procedura utilizzati in una rete informatica aziendale), zero trust è il vostro alleato.
2. Attacchi di tipo “data poisoning”
Di cosa si tratta? Gli attacchi di “data poisoning” contro i modelli di linguaggio di grandi dimensioni (LLM) agiscono prendendo di mira i dati di addestramento forniti al modello oppure calibrando in modo doloso l’LLM per creare vulnerabilità nel sistema che potrebbero compromettere l’accuratezza o l’efficacia del modello. Avvelenando i dati, gli autori delle minacce potrebbero anche voler manipolare il modello affinché diffonda informazioni false. Tali attacchi potrebbero essere perpetrati da dipendenti dell’ e che nutrono rancore oppure da soggetti esterni che riescono ad accedere ai dati di addestramento.
“Tracciate la provenienza del modello di apprendimento automatico [di uno strumento di IA] nel corso del tempo e verificate anche la firma digitale per assicurarvi che sia effettivamente un’organizzazione di cui vi fidate ad affermare che si tratta del proprio modello.””Walter Haydock, fondatore e CEO, StackAware
La migliore difesa: Per difendersi dagli attacchi di “data poisoning”, le aziende devono concentrarsi sull’integrità dei propri dati di addestramento e sull’integrità del modello stesso. «È importante comprendere la provenienza dei dati su cui viene addestrato un modello, nonché la provenienza del modello stesso», afferma Walter Haydock, fondatore e direttore del reparto di ricerca e sviluppo ( CEO ) presso StackAware, azienda specializzata in sicurezza informatica basata sull’intelligenza artificiale.
Haydock consiglia alle aziende di tenere traccia dei pacchetti software che utilizzano per sviluppare i propri modelli di intelligenza artificiale in una “ ” (SBOM). Questo elenco di tutti i componenti e le dipendenze presenti in un determinato prodotto software è diventato oggi un aspetto fondamentale e standard dell’attività aziendale (ed è ora richiesto a tutti i fornitori che vendono software al governo federale), in quanto consente di individuare le parti a rischio di un App che potrebbero esporre la Sua azienda ad attacchi.
«È possibile tracciare la provenienza di un determinato modello di machine learning (si apre in una nuova scheda) nel corso del tempo e persino verificarne la firma digitale per assicurarsi che sia effettivamente un’organizzazione di cui vi fidate a dichiarare che si tratta del proprio modello», afferma Haydock.
3. Fuga di dati
Di cosa si tratta? Per quanto riguarda i modelli di linguaggio di grandi dimensioni (LLM), la fuga di dati è analoga a quella che si verifica con altri database e sistemi di archiviazione dei dati. Se tali sistemi e i dati ad essi associati non vengono gestiti in modo adeguato, i modelli di linguaggio di grandi dimensioni (LLM) — e le pipeline di dati che li alimentano — potrebbero divulgare dati sensibili, dati soggetti a regolamentazione o proprietà intellettuale, il che può comportare gravi violazioni della sicurezza e della privacy.
La migliore difesa: Le organizzazioni devono comprendere da dove provengano i dati che inseriscono nel modello, assicurarsi che siano accurati e non siano stati alterati, e che siano stati epurati da dati sensibili, riservati o soggetti a normative. Haydock e altri consigliano alle organizzazioni di assicurarsi di disporre di procedure adeguate per la pulizia dei dati prima che questi vengano inseriti nel modello. «Il modo migliore per evitare la fuga di dati è assicurarsi che tali dati non raggiungano mai il modello», afferma. Ciò significa assicurarsi che i dati di addestramento utilizzati dai ricercatori per “addestrare” il modello non includano informazioni sensibili sui clienti, proprietà intellettuale aziendale o qualsiasi altro “gioiello della corona” dell’ in termini di dati che meriti di essere protetto.
Quando si utilizzano sistemi di intelligenza artificiale di terze parti, le organizzazioni devono accertarsi che il modello di intelligenza artificiale generativa (GenAI) non si addestri utilizzando i dati forniti dagli utenti; tale restrizione dovrebbe essere espressamente indicata nel contratto con il fornitore del servizio. Inoltre, i programmi di formazione sulla sicurezza informatica rivolti al personale dell’ , disponibili all’indirizzo , devono essere aggiornati per includere approfondimenti sull’intelligenza artificiale, in modo che i dipendenti sappiano di non dover condividere dati sensibili con modelli di terze parti.
Molti servizi di intelligenza artificiale generativa stanno adottando misure per proteggere i dati dei clienti. Le organizzazioni dovrebbero inoltre prestare attenzione ogni volta che collegano tali servizi di intelligenza artificiale generativa (GenAI) alle proprie fonti di dati interne e ai propri file di ricerca, poiché il rischio di fuga di dati sensibili aumenta notevolmente quando si collegano i servizi GenAI agli archivi di dati esistenti.
E un’altra cosa: l’inevitabile ricorso alla “shadow AI”
Di cosa si tratta? L’«altro rischio» che tutte le organizzazioni dovranno probabilmente affrontare nell’era della GenAI: l’uso non autorizzato di servizi GenAI di terze parti da parte del personale. Proprio come il mobile computing e il cloud computing hanno introdotto nelle aziende dispositivi endpoint e applicazioni non autorizzati attraverso il fenomeno dello “” (IT ombra), i modelli di linguaggio di grandi dimensioni (LLM) destinati al mercato consumer consentono ai dipendenti di acquistare l’accesso a questi servizi di intelligenza artificiale di nuova generazione (GenAI) e di utilizzarli per diversi tipi di attività lavorative.
La migliore difesa: Traete insegnamento dalle esperienze delle prime fasi dello sviluppo della tecnologia mobile e del cloud computing . Non molto tempo fa, le aziende dovevano ancora capire come gestire i rischi connessi all’utilizzo, da parte dei dipendenti, dei propri dispositivi e software personali durante l’orario di lavoro e alla connessione alla rete informatica aziendale. Proprio come allora, le imprese reagiranno in modo diverso: alcune cercheranno di impedire qualsiasi utilizzo della GenAI da parte dei dipendenti, mentre altre cercheranno di moderarne l’uso valutando caso per caso.
[Leggi anche: Perché i lavoratori violano le politiche di sicurezza informatica]
«I divieti assoluti non funzioneranno», afferma Haydock. «La gente semplicemente li ignorerà. «Il modo migliore [per gestire il rischio] è riconoscere che si tratta di una realtà e cercare di tenerla sotto controllo il più possibile», afferma. In genere, ciò significa che i dipendenti devono richiedere l’approvazione per l’utilizzo di qualsiasi nuovo servizio di GenAI e che i team di sicurezza e tecnologico devono vagliare il servizio prima di aggiungerlo a un elenco approvato di fornitori di IA che il personale può utilizzare.
Per definire correttamente tale politica occorrerà procedere per tentativi, fino a quando non si raggiungerà il giusto equilibrio tra la produttività del personale e la sicurezza. In effetti, è probabile che ciò valga anche per l’implementazione della GenAI in senso più ampio all’interno dell’azienda. La cosa importante da fare ora è individuare i rischi principali e iniziare ad adottare le misure adeguate per gestirli.
