Mentre i dibattiti sull’intelligenza artificiale (IA) si concentrano su alcuni degli scenari più inquietanti – una superintelligenza che sottomette rapidamente i propri creatori umani per farli agire secondo la propria volontà o uno Stato canaglia che utilizza l’IA per iniziare a conquistare il mondo – i rischi più probabili legati all’IA sono di natura ben più banale. E molto più gestibile.
Questa dovrebbe rappresentare una buona notizia per gli innumerevoli imprenditori desiderosi di integrare forme di intelligenza artificiale generativa (GenAI), ovvero qualsiasi sistema in grado di generare nuovi testi, immagini, audio o codice in risposta a prompt. I rischi di tipo “ ” associati alla GenAI sono già ben noti ai dirigenti del settore tecnologico aziendale e ai responsabili della sicurezza informatica (CISO) . Riguardano la governance dei dati ,, , la sicurezza dei dati, , i processi decisionali affidabili ed etici e la sicurezza delle stesse applicazioni di intelligenza artificiale.
La differenza, e si tratta di una differenza sostanziale, tra queste preoccupazioni e i rischi più tradizionali legati alla sicurezza informatica che le aziende hanno dovuto affrontare nel corso degli anni è che la tecnologia GenAI all’interno dell’azienda è nuova e le conseguenze in termini di sicurezza sono imprevedibili. Sebbene la portata di questa imprevedibilità abbia destato preoccupazione in molti scienziati, non si tratta di un ostacolo insormontabile. Esistono misure che le imprese possono adottare per gestire in modo efficace i rischi complessivi legati alla GenAI.
"Il primo passo consiste nell’adottare, come minimo, una politica che fornisca indicazioni su come utilizzare i modelli linguistici di grandi dimensioni", afferma Walter Haydock, fondatore e CEO presso StackAware, azienda specializzata in sicurezza informatica nel campo dell’intelligenza artificiale. Tra tutte le nuove forme di GenAI attualmente disponibili, i modelli linguistici di grandi dimensioni (LLM), in grado di generare testo o codice su richiesta, stanno suscitando grande interesse da parte di aziende di ogni dimensione.
«Il primo passo consiste nell’adottare, come minimo, una politica che fornisca indicazioni su come utilizzare i modelli linguistici di grandi dimensioni.»Walter Haydock, fondatore e CEO, StackAware
Secondo i dati del rapporto “ ” della società di ricerche International Data Corp., nel 2023 le imprese hanno speso circa 19,4 miliardi di dollari in soluzioni di intelligenza artificiale generativa (GenAI) e potrebbero arrivare a investire fino a 151 miliardi di dollari entro il 2027 . I modelli di linguaggio di grandi dimensioni (LLM), in particolare, sono già in uso come chatbot presso aziende leader in diversi settori, tra cui quello dei viaggi (Expedia), delle assicurazioni (Allstate), dei servizi finanziari (Mastercard) e dell’industria manifatturiera (Schneider Electric).
Qual è la posta in gioco? Le imprese prive di adeguate politiche di governance interna si renderanno conto di non poter fare affidamento sui risultati prodotti dai propri modelli LLM sviluppati internamente. Saranno più esposti al rischio di violazioni etiche e del diritto d’autore, oppure a fughe di dati di tipo “ ”. Inoltre, potrebbero perdere il controllo del modello LLM stesso qualora subissero un attacco informatico.
Definire una governance efficace per la GenAI è più veloce di quanto si pensi
John Pescatore, direttore del settore “Tendenze emergenti in materia di sicurezza” presso il SANS Institute, l’organizzazione leader a livello mondiale nella ricerca e nella formazione in materia di sicurezza informatica, concorda con Haydock e consiglia alle organizzazioni di partire da un modello di governance completo. Ciò comprende la protezione del modello stesso e dei dati che lo alimentano, nonché il monitoraggio del comportamento del modello.
«Non si tratta di costruire il modello e poi dimenticarsene: è la gestione continua che porta a risultati concreti.»John Pescatore, responsabile delle tendenze emergenti in materia di sicurezza presso il SANS Institute
Il processo non deve necessariamente richiedere mesi. È possibile farlo nel giro di poche settimane, fermo restando che non si sta definendo una serie definitiva di regole e linee guida destinate a disciplinare tutti i sistemi di intelligenza artificiale generativa (GenAI) per sempre. La vostra strategia verrà (e dovrebbe essere) adeguata nel corso del tempo, man mano che la tecnologia e le esigenze della vostra azienda cambiano. «Non si tratta di creare il modello e poi dimenticarsene: è la gestione continua che porta a risultati concreti», afferma Pescatore.
Per “portare a termine il lavoro” in modo efficace nel lungo periodo, gli esperti raccomandano alle organizzazioni di adottare le seguenti misure.
1. Definire l’ambito di applicazione del proprio programma di governance dei dati e dell’IA/LLM
Ciò significa definire e indicare chiaramente gli obiettivi specifici del vostro sistema di intelligenza artificiale generativa (GenAI) e delinearne i limiti. L'definizione di limiti ben definiti contribuirà a prevenire risultati che potrebbero violare gli standard di conformità o di protezione della privacy. Per definire ruoli, responsabilità e buone pratiche, si prega di chiarire quanto segue: Chi è responsabile della sicurezza e della gestione del programma LLM, delle fonti dei dati e della classificazione dei dati all’interno dell’LLM? In che modo il modello provvederà quindi a raccogliere, archiviare, gestire e utilizzare tali dati?
[Leggi anche: Le 3 principali minacce legate alla GenAI (più un altro rischio) e come contrastarle]
2. Garantire una rigorosa gestione dei dati
Le organizzazioni devono specificare in dettaglio le modalità di pulizia, arricchimento e convalida dei dati utilizzati per l'addestramento dei modelli di linguaggio di grandi dimensioni (LLM). Ancora una volta, dovrebbero definire chi supervisionerà tali processi e quali saranno i protocolli previsti. La convalida dei dati di addestramento (per assicurarsi che siano accurati) e la loro pulizia da eventuali dati sensibili, dati soggetti a normative o proprietà intellettuale (nel caso di un modello destinato al pubblico) sono essenziali per prevenire la divulgazione dei dati o le violazioni della privacy.
3. Esigete una sicurezza dei dati solida
Per dirla senza giri di parole, la sicurezza dei dati è fondamentale, osserva Ron Reiter, cofondatore e direttore tecnico della startup Sentra, specializzata in sicurezza cloud. «Se si presta attenzione a proteggere i dati sensibili che vengono trasferiti, si riduce al minimo la superficie di attacco e si è così in grado di definire una politica di sicurezza più efficace», afferma.
È inoltre opportuno definire delle linee guida relative all’accesso ai modelli e al loro sviluppo, ai dati che alimentano i modelli, nonché alle modalità di protezione dei modelli stessi e dei dati in essi contenuti. I responsabili della pianificazione della governance devono stabilire in che modo l’organizzazione garantirà che i dati e le azioni del modello siano conformi alle normative governative , alle disposizioni e agli standard aziendali.
4. Monitorare costantemente
Le organizzazioni devono istituire sistemi per il monitoraggio del comportamento dell’IA, dei flussi di dati del modello e delle modalità di utilizzo del modello stesso. L'attività potrebbe essere sospesa qualora il modello iniziasse a comportarsi in modo dannoso o a divulgare dati sensibili.
5. Ridurre i pregiudizi
Sebbene sia impossibile eliminare del tutto i pregiudizi, un’azienda può elaborare e attuare misure volte a ridurre i pregiudizi all’interno dei sistemi LLM e a individuarli quando si manifestano. I pregiudizi derivanti dall’intelligenza artificiale generativa (GenAI) possono influenzare le decisioni relative all’approvazione dei prestiti, alla valutazione del merito creditizio, alle pratiche di assunzione e persino alla diffusione di disinformazione di tipo “ ”. Le misure di mitigazione dovrebbero comprendere la gestione dei dati (utilizzando dati provenienti da fonti diverse), strumenti per l’individuazione dei pregiudizi, la trasparenza riguardo ai dati e al modello di linguaggio di grandi dimensioni (LLM), nonché un monitoraggio frequente. Le imprese devono attuare controlli costanti per prevenire risultati distorti dovuti a potenziali pregiudizi presenti nei dati aziendali.
6. Riveda la Sua procedura di risposta agli incidenti
Rispolverate i manuali di risposta agli incidenti relativi all’ e assicuratevi che trattino il tema della GenAI. Il Suo piano di risposta agli incidenti deve fornire indicazioni dettagliate, passo dopo passo, nel caso in cui i Suoi sistemi GenAI dovessero presentare malfunzionamenti o subire un attacco informatico.
7. Mantenere la flessibilità
Le imprese devono creare un quadro di governance della GenAI sufficientemente flessibile da adattarsi ai progressi tecnologici nel campo dell’IA e alle nuove norme emanate dalle autorità di regolamentazione, sia negli Stati Uniti che all’estero . Una politica di governance efficace in materia di GenAI prevede inoltre di verificare regolarmente l’utilizzo dei modelli di linguaggio di grandi dimensioni (LLM) da parte dell’azienda al fine di individuare eventuali violazioni e di valutare l’efficacia della politica stessa.
8. Si assicuri che sia uniforme
È fondamentale che il quadro normativo in materia di IA disciplini l’utilizzo e la sicurezza dell’IA in modo uniforme in tutta l’organizzazione. Una strategia efficace dovrebbe garantire che i diversi dipartimenti e le unità aziendali non agiscano ciascuno per conto proprio in materia di governance dell’intelligenza artificiale.
Messa a punto delle vostre politiche di governance relative alle IA generative
I piani di governance dovrebbero inoltre tenere conto del tipo di modelli di linguaggio di grandi dimensioni (LLM) utilizzati da un’azienda. (È possibile utilizzare un modello LLM già esistente, personalizzare un modello LLM preaddestrato oppure crearne uno proprio partendo da zero.) Se decidete di crearne uno autonomamente, potrebbe sembrare vantaggioso realizzare un unico modello di grandi dimensioni e separare virtualmente i dati in esso inseriti affinché possano essere utilizzati da diversi reparti. Un’opzione potenzialmente migliore: realizzare modelli di linguaggio di grandi dimensioni (LLM) più piccoli e fisicamente distinti per settori quali il marketing, la ricerca e la finanza, in modo che il personale e gli altri utenti possano accedere solo ai dati per i quali dispongono di un diritto e di una necessità legittima di accesso. Limitando l’accesso ai sistemi GenAI, si riducono i rischi di una diffusione più ampia delle fughe di dati. «È l’unico modo che ritengo possibile per proteggere i modelli in termini di accesso e compartimentazione dei dati», afferma Reiter.
Come per qualsiasi politica completa in materia di sicurezza informatica, la gestione dei rischi legati a soggetti terzi è essenziale per un piano di governance della GenAI. I dirigenti aziendali e i team di sicurezza devono guardare oltre la propria architettura di rete, prestando attenzione ai protocolli di governance e sicurezza dei fornitori terzi, valutando (e monitorando costantemente) in che modo le loro pratiche di governance e gestione dei rischi si integrino con le vostre.
Proprio come la pianificazione generale della governance, la valutazione dei rischi di terze parti non deve necessariamente richiedere troppo tempo. «In base alla nostra esperienza con i clienti, la valutazione e il potenziamento dell’ambiente di sicurezza per proteggere la GenAI possono in genere essere completati in 60 giorni», osserva una recente guida di PricewaterhouseCoopers intitolata “ ” ( ) dedicata alla scalabilità della GenAI per le imprese.
Assicurarsi che i responsabili della sicurezza e i dirigenti di alto livello siano all’unisono contribuirà a semplificare questo processo, in particolare per quanto riguarda eventuali prerequisiti o procedure necessari per inserire le IA di terze parti nell’elenco approvato dalla vostra azienda. "Se, per qualche motivo, il team addetto alla sicurezza non fosse d'accordo sull'utilizzo di tale strumento o sull'inserimento di quel tipo di dati al suo interno, ecco la procedura da seguire per ottenere l'accettazione del rischio, sulla base della giustificazione aziendale", spiega Haydock.
La chiave di tutto ciò, concordano gli esperti, sta nell’impegnarsi e nell’investire nella sicurezza fin dalla progettazione.
"La corsa all’implementazione e alla messa in sicurezza dell’IA generativa segue lo schema tipico: le aziende si affrettano a renderla operativa, mentre la sicurezza resta indietro", afferma Pescatore. «Purtroppo, la sicurezza deve sempre rincorrere gli sviluppi», afferma. E cercare di recuperare terreno rispetto agli avversari è una strategia destinata al fallimento.
