Con l’ascesa fulminea di GenAI negli ultimi due anni, dai gruppi di discussione dei data scientist alla copertura mediatica mainstream, una cosa è diventata chiarissima: è il mondo di ChatGPT – noi siamo qui solo per fornire i prompt.
Il ritmo con cui gli strumenti di intelligenza artificiale generativa (GenAI) si sono evoluti è davvero sorprendente e non mostra alcun segno di rallentamento. Digitando poche parole in un chatbot, chiunque può ora generare sofisticati rapporti di ricerca, resoconti istantanei delle riunioni, materiale grafico pronto per la stampa, codice informatico privo di errori, persino profili su siti di incontri App e messaggi provocanti su – e molto altro ancora.
Quel “molto di più” promette una serie di opportunità per le imprese e nuovi vettori di attacco per gli avversari, oltre a nuovi modi per contrastare tali attacchi. Comprendere appieno le potenzialità e i limiti di questa tecnologia è ormai un requisito imprescindibile per i dirigenti aziendali e i professionisti della sicurezza informatica.
La cosa fondamentale da ricordare è che, sebbene i chatbot basati sull’intelligenza artificiale generativa (GenAI) possano sembrare una sorta di magia, in realtà non sono altro che motori di previsione estremamente sofisticati.
Strumenti quali ChatGPT, Gemini, Copilot e altri si basano sull’ , sull’apprendimento automatico e sui modelli linguistici di grandi dimensioni (LLM) – complesse reti neurali addestrate su miliardi di documenti, immagini, file multimediali e programmi software. Comprendendo il significato e il contesto del linguaggio, i modelli di linguaggio di grandi dimensioni (LLM) sono in grado di riconoscere schemi, il che consente loro di prevedere quali parole, immagini, suoni o frammenti di codice potrebbero apparire successivamente in una sequenza. Ecco come gli strumenti di intelligenza artificiale generativa (GenAI) siano in grado di redigere relazioni, comporre musica, realizzare cortometraggi o scrivere codice in modo migliore (o almeno più veloce) rispetto alla maggior parte degli esseri umani, il tutto in risposta a semplici istruzioni formulate in linguaggio naturale.
Ma solo perché i Suoi colleghi usano con disinvoltura termini come LLM e GPT durante le riunioni, ciò non significa che loro (o, ehm, Lei) li comprendano davvero. Ecco un glossario informale dei concetti chiave che è necessario conoscere, da AGI a ZSL.
1. Intelligenza artificiale generale (AGI)
La manifestazione definitiva dell’intelligenza artificiale ha già ricoperto un ruolo di primo piano in decine di film apocalittici. L’AGI rappresenta il punto in cui le macchine acquisiscono la capacità di pensare in modo originale e, a) ci salvano dai nostri peggiori impulsi, oppure b) decidono di averne abbastanza di noi miseri esseri umani. Mentre alcuni esperti di intelligenza artificiale, come Geoffrey Hinton, il “padrino dell’IA”, hanno lanciato un monito al riguardo, altri dissentono nettamente sul fatto che l’AGI sia addirittura possibile, per non parlare poi di quando potrebbe diventare realtà.
Da ricordare: Per sapere con certezza se l’AGI sia ormai alle porte, dovrete tornare indietro nel tempo e chiedere a Sarah Connor.
«. L’AGI è il punto in cui le macchine diventano capaci di pensiero originale e possono: a) salvarci dai nostri peggiori impulsi, oppure b) decidere di averne abbastanza di noi miseri esseri umani.»
2. Manipolazione dei dati
Introducendo dati dannosi nei repository utilizzati per addestrare un modello di intelligenza artificiale, gli aggressori possono indurre un chatbot a comportarsi in modo anomalo, generare risposte errate o dannose e compromettere le operazioni e la reputazione dell’azienda che lo ha creato (come nel caso in cui si sia indotta un’auto semi-autonoma a immettersi nel traffico). Poiché questi attacchi richiedono l’accesso diretto ai dati di addestramento, vengono solitamente perpetrati da personale interno dell’ , attualmente in servizio o che ha lasciato l’azienda di recente. La limitazione dell'accesso ai dati e il monitoraggio continuo delle prestazioni sono elementi fondamentali per prevenire e individuare tali attacchi.
Da tenere a mente: Il Suo chatbot sta cominciando ad assomigliare alla zia Agatha, sempre pronta a sputare teorie complottistiche? È possibile che i suoi dati siano stati compromessi.
3. Comportamento emergente
I modelli GenAI possono talvolta compiere azioni che i loro creatori non avevano previsto – come, ad esempio, iniziare improvvisamente a conversare in bengalese – man mano che le dimensioni del modello aumentano. Come nel caso dell’AGI, è in corso un vivace dibattito sul fatto che questi modelli di IA abbiano davvero sviluppato nuove competenze autonomamente o che tali capacità fossero semplicemente rimaste nascoste.
Da ricordare: Vi presentiamo il nuovo della vostra azienda, il nuovo CEO: Chad GPT.
4. Intelligenza artificiale spiegabile (XAI)
Persino coloro che realizzano sofisticate reti neurali non ne comprendono appieno il funzionamento. La cosiddetta “intelligenza artificiale a scatola nera” rende quasi impossibile stabilire se le previsioni di un modello siano state influenzate da dati di addestramento parziali o imprecisi ; proprio per questo motivo le autorità di regolamentazione chiedono sempre più spesso una maggiore trasparenza sulle modalità con cui i modelli giungono alle proprie decisioni. L'XAI rende il processo più trasparente, solitamente avvalendosi di reti neurali più semplici che utilizzano un numero inferiore di livelli per analizzare i dati.
Da tenere a mente: Se utilizzate l’intelligenza artificiale per prendere decisioni relative ai clienti, probabilmente dovrete fornire alcune spiegazioni.
5. Modelli di base
I modelli di linguaggio di base (LLM) costituiscono il cervello dei bot. Poiché il loro addestramento richiede quantità inimmaginabili di dati, energia elettrica e acqua (per il raffreddamento dei server), i modelli di linguaggio di grandi dimensioni (LLM) più potenti sono gestiti da alcune delle più grandi aziende tecnologiche del mondo. Tuttavia, le aziende possono anche avvalersi di modelli di base open source più piccoli e per sviluppare i propri bot interni.
Da ricordare: I chatbot sono come le case: hanno bisogno di fondamenta solide per rimanere in piedi.
6. Allucinazioni
I chatbot basati sull’intelligenza artificiale generativa (GenAI) possono assomigliare molto a bambini di cinque anni particolarmente svegli: quando non conoscono la risposta a una domanda, a volte si inventano qualcosa. Queste risposte, che sembrano plausibili ma sono del tutto inventate, sono note come allucinazioni. Sono strettamente correlate alle allucinazioni di tipo “ ” (), ovvero ciò che accade quando i chatbot insistono nel citare fonti inesistenti a sostegno di informazioni non veritiere.
Da ricordare: Il Suo chatbot soffre di flashback da acido? Potreste voler ritirargli le chiavi dell’auto – e utilizzare il metodo RAG (vedi sotto).
«Se avete l’impressione che voi e il vostro bot vi stiate allontanando, probabilmente non è colpa vostra, ma dei vostri dati.»
7. Deriva del modello (nota anche come deriva dell’IA)
Il fenomeno della deriva si verifica quando i dati utilizzati per l'addestramento di un modello diventano obsoleti o non rispecchiano più le condizioni attuali. Ciò può significare che le circostanze esterne sono cambiate (ad esempio, una variazione dei tassi di interesse nel caso di un modello concepito per prevedere gli acquisti immobiliari), rendendo meno accurati i risultati del modello. Per evitare la deriva, le imprese devono attuare una solida governance dell’intelligenza artificiale ( ); i modelli devono essere monitorati costantemente per verificarne l’accuratezza, quindi ottimizzati e/o riaddestrati con i dati più recenti.
Da tenere a mente: Se avete l’impressione che voi e il vostro bot vi stiate allontanando, probabilmente non è colpa vostra, ma dei vostri dati.
8. Attacchi di inversione del modello
Tali attacchi si verificano quando gli aggressori effettuano il reverse engineering di un modello per estrarne informazioni. Analizzando i risultati delle richieste rivolte al chatbot, gli aggressori possono risalire a ritroso per determinare il funzionamento del modello, il che consente loro di rendere pubblici dati sensibili utilizzati per l’addestramento o di creare cloni del modello a basso costo. La crittografia dei dati e l’introduzione di rumore nel set di dati dopo l’addestramento possono neutralizzare l’efficacia di tali attacchi.
Da ricordare: . Hanno iniziato a comparire in rete imitazioni a basso costo del Suo costoso LLM? Potrebbe essere stato sottoposto a reverse engineering.
[Leggi anche: Le 3 principali minacce legate alla GenAI (più un altro rischio) e come contrastarle]
9. Modelli linguistici multimodali di grandi dimensioni (MLLM)
Questi bot sono in grado di elaborare diversi tipi di input – testo, voce, immagini, audio e altro ancora – e di rispondere di conseguenza. Sono in grado di estrarre il testo contenuto in un’immagine, come ad esempio foto di segnali stradali o appunti scritti a mano; scrivere codice semplice sulla base di uno screenshot di una pagina web; tradurre l’audio da una lingua all’altra; descrivere ciò che accade all’interno di un video; oppure rispondere verbalmente con una voce simile a quella di una star del cinema.
Da tenere a mente: La voce di quella bot può sembrare seducente, ma in realtà non è poi così interessata a voi.
10. Attacchi di iniezione di prompt
Prompt redatti con cura ma malevoli possono aggirare i controlli di sicurezza integrati di un chatbot, costringendolo a rivelare informazioni riservate o a generare contenuti dannosi, come ad esempio un «piano dettagliato per distruggere l’umanità». Limitare i privilegi degli utenti finali, mantenere il controllo umano e non condividere informazioni sensibili con modelli di linguaggio di grandi dimensioni (LLM) accessibili al pubblico sono misure volte a ridurre al minimo i danni derivanti da tali attacchi.
Da tenere a mente: il chatbot di “ ” è diventato un po’ troppo loquace? È possibile che qualcuno vi abbia inserito un prompt dannoso.
«Programmare un chatbot in modo che tenga conto di archivi di dati affidabili nel rispondere alle domande può ridurre notevolmente il rischio di risposte inesatte.»
11. Generazione potenziata dal recupero (RAG)
Programmare un chatbot in modo che tenga conto di archivi di dati affidabili nel rispondere alle domande può ridurre notevolmente il rischio di risposte inesatte o di affermazioni del tutto prive di fondamento. RAG consente inoltre ai bot di accedere ai dati generati dopo l’addestramento del modello LLM sottostante, migliorando così la pertinenza delle loro risposte.
Da ricordare: Desidera migliorare l’accuratezza e l’affidabilità dei Suoi chatbot basati su GenAI? Potrebbe essere giunto il momento del RAG.
12. Apprendimento zero-shot (ZSL)
I modelli di apprendimento automatico sono in grado di identificare oggetti che non hanno mai incontrato nei propri dati di addestramento grazie all’apprendimento zero-shot. Ad esempio, un modello di visione artificiale addestrato a riconoscere i gatti domestici potrebbe identificare correttamente un leone o un puma, sulla base delle caratteristiche comuni e della sua comprensione delle differenze tra questi animali. Imitando il modo di pensare degli esseri umani, la ZSL è in grado di ridurre la quantità di dati che devono essere raccolti ed etichettati, abbassando così i costi di addestramento del modello.
Da tenere a mente: A meno che non abbiate familiarità con la terminologia di base, non avete alcuna possibilità di comprendere l’intelligenza artificiale.
