Un auto-descritto "hacker di recupero", Alissa Valentina Knight ha trascorso la maggior parte degli ultimi tre decenni compromettendo reti di computer e sistemi di sicurezza, sia illegalmente o con la benedizione di dirigenti aziendali e governativi. Il veterano di 26 anni della sicurezza informatica ha iniziato come adolescente a caccia di suggerimenti per ottenere l'accesso non autorizzato alle informazioni aziendali classificate sui sistemi di bacheca (BBS). Ma da allora ha trasformato la sua esperienza sul lato più oscuro dell'informatica in una carriera fiorente che si estende sia su Internet che nel mondo reale. Guarda esempi di iniziative come concerti di consulenza di alto profilo per il Pentagono, una serie di sceneggiature e crediti di produzione di Hollywood e libri acclamati dalla critica come la preveggente (e un po 'terribile) Hacking Connected Cars.
Oggi, il noto creatore di contenuti, influencer e ex magnate IT dirige il Knight Group, uno studio di venture capital che possiede e gestisce una serie di startup high-tech. La sua ultima creazione, Assail, è una nuova startup di IA agentica che sta costruendo agenti autonomi progettati per assistere i clienti di tutto il mondo con funzioni come test di vulnerabilità e penetrazione API automatizzati. (“Siamo un’azienda di IA avversaria, che consente alle organizzazioni di identificare e difendere le vulnerabilità nel loro stack di applicazioni moderne”, spiega.) Per farla breve: quando si tratta di sondare i confini delle tecnologie emergenti e delle soluzioni di sicurezza informatica, il principale esperto – le cui iniziative imprenditoriali includono anche case editrici di TV e videogiochi – ha praticamente visto e fatto tutto.
Curiosa di sentire come la forma e la natura delle minacce online sta cambiando nell'era dell'intelligenza artificiale e dell'automazione, Focal Point l'ha raggiunta tra una serie apparentemente infinita di voli e riunioni. Qui, condivide le sue opinioni sui modi in cui i professionisti della sicurezza informatica di domani possono affrontare meglio i nuovi pericoli digitali, su come i leader IT possono adattare le loro strategie e mentalità per affrontare le sfide emergenti e su cosa verrà dopo in un'epoca in cui i pericoli digitali si evolvono alla velocità dei LLM.
Domande e risposte
Focal Point: In che modo l’ascesa dell’IA e dell’automazione ha cambiato il panorama delle minacce informatiche per le organizzazioni in ogni spazio?
Alissa Knight: Storicamente, anche prima dell’uso dell’IA per applicazioni contraddittorie, i professionisti che lavorano hanno davvero faticato a tenere il passo con un avversario umano. È sempre sembrato un gioco di recupero e reazione. Ora che gli avversari utilizzano modelli linguistici grandi e piccoli per lanciare nuove minacce e attacchi, il divario tra difensori e aggressori si sta allargando. È davvero una questione di velocità. Ora stiamo operando alla velocità e alla letalità delle macchine, dove le persone che in realtà non sanno nemmeno come compilare un exploit stanno diventando rapidamente in grado di hackerare i sistemi e compromettere una rete.
“Ora stiamo operando alla velocità e alla letalità delle macchine, dove le persone che davvero non sanno nemmeno come compilare un exploit stanno diventando rapidamente in grado di hackerare i sistemi e compromettere una rete”.Alissa Valentina Knight, CEO e Chief AI Officer, Assail
Recentemente, abbiamo sviluppato una piattaforma che utilizza l'IA contraddittoria per identificare le vulnerabilità in una rete. E posso dirvi che la piattaforma che abbiamo costruito è stata in grado di compromettere sette banche in due minuti e mezzo. Non so come gli umani possano difendersi da qualcosa che è così veloce e così letale. Ciò solleva molte preoccupazioni per quanto riguarda il tempo medio di rilevamento e risposta, che sta solo peggiorando.
Punto focale: quali sono alcuni dei presupposti di sicurezza che le aziende che si affrettano ad adottare nuovi strumenti e tecnologie di IA stanno sbagliando fin dall’inizio?
Alissa Knight: Dal punto di vista della difesa, l’IA non è più semplicemente una caratteristica. È una capacità essenziale e devi salire sul carro. L’IA sta trasformando radicalmente le capacità cognitive di overmatch di soluzioni sia difensive che offensive. Di conseguenza, molte organizzazioni sono ora alla ricerca di soluzioni basate sull'intelligenza artificiale per essere in grado di tenere il passo. Fondamentalmente, la tecnologia fornisce ai difensori un livello di vantaggio competitivo nella difesa contro gli attacchi, e la stanno usando per migliorare le capacità di risposta agli incidenti.
Ma allo stesso tempo, ci sono anche avversari che usano l'IA per massimizzare e amplificare le loro capacità di compromettere più reti che mai. E per entrare in sistemi che prima non potevano potenzialmente perché l'exploit era troppo costoso da acquistare sul dark web, non avevano accesso ad esso, ecc. Ciò che l’IA ha fatto è democratizzare la natura dell’hacking. Consente alle persone che altrimenti non hanno idea di come hackerare di farlo e compromettere i sistemi purché abbiano accesso a un modello di IA contraddittorio (ovvero un modello che non ha guardrail implementati o è jailbroken).
Focal Point: Quando i criminali di oggi compromettono una rete o un App, cosa stanno prendendo di mira? È un accesso? Sono dati? È un’influenza di rete? O anche l’accesso ai modelli di IA stessi?
Alissa Knight: È divertente, quando ho iniziato a occuparmi di sicurezza informatica, si trattava davvero di deturpare i siti Web e di poter dire che avevo compromesso il volto di NASA.gov, o qualsiasi altra cosa. Ora è un mondo diverso e l'hacking è un'operazione a scopo di lucro. Ci sono organizzazioni criminali transnazionali e individui che stanno cercando di trarre profitto dai tuoi dati, riscattare un'azienda e poi vendere quei dati sul dark web. Aggiungete ad esso gli stati nazione ostili che cercano un vantaggio militare o di costruire o accedere a qualcosa che non potrebbero sviluppare da soli. Ed ecco il punto: i dati valgono più di cose come il petrolio e Bitcoin, ed è praticamente quello che [i criminali] stanno cercando.
Punto focale: quali sono alcuni dei segnali che indicano agli aggressori che la posizione di sicurezza di un’azienda, e in particolare la posizione di sicurezza dell’IA, potrebbe essere più debole?
Alissa Knight: Credo fermamente che la miglior difesa sia avere il miglior attacco. E se ora siamo in un'epoca in cui gli avversari utilizzano l'IA, dobbiamo chiederci perché, come difensori, alcuni di noi utilizzano ancora scanner di vulnerabilità legacy che funzionano con il pattern matching e non utilizzano l'IA per identificare e sfruttare le vulnerabilità nel nostro ambiente? Devi usare le stesse tattiche, tecniche e procedure che i criminali stanno usando per colpire e irrompere nella tua rete. Quindi, se noi difensori abbiamo accesso all'IA, che si tratti di firewall, controlli di sicurezza o altro, dobbiamo sfruttare la stessa tecnologia che gli avversari usano contro di noi.
C'è una semplice domanda che può identificare se un'organizzazione semplicemente non sta al passo o non è in grado di difendersi dalle minacce basate sull'intelligenza artificiale: "In qualità di leader IT, stai usando l'intelligenza artificiale per identificare le vulnerabilità nel tuo ambiente?" Vi garantisco, siamo ora in un'era di guerra machine-on-machine. Non si tratta più di difendere le nostre piramidi e i nostri fornitori di servizi cloud dalle minacce umane. Ora li stiamo difendendo dai robot, dalle minacce delle macchine. In definitiva, si tratta di LLM contro LLM.
“In qualità di leader IT, stai utilizzando l’IA per identificare le vulnerabilità nel tuo ambiente?”Alissa Valentina Knight, CEO e Chief AI Officer, Assail
Punto focale: Se dovessi consigliare un team esecutivo, quali suggerimenti daresti loro per difendersi da questi tipi di minacce informatiche, notando che molti stanno ancora recuperando terreno sul fronte IT?
Alissa Knight: Credo ancora fermamente in 2026 che le API rimangano le backdoor e le porte laterali nei nostri ambienti operativi. La proliferazione delle API e le API shadow sono un problema enorme. Molte delle violazioni ora si verificano a causa di hacker che rivolgono la loro attenzione alle API perché sanno che è lì che si trovano i dati, non importa se si tratta di informazioni finanziarie, PHI, PCI, HIPAA o qualsiasi altra cosa che viene servita. Il mio consiglio alla leadership è di sapere quante API hai nel tuo ambiente e quali servono dati regolamentati. Aiuta a costruire strategie di sicurezza come strati di una cipolla, partendo da lì, piuttosto che cercare di proteggere ogni singola API e avere una soluzione basata sull'intelligenza artificiale per trovarle, sfruttarle, correggerle e difenderle.
Nell’era dell’IA e degli LLM, quali competenze o cambiamenti di mentalità pensa che debbano adottare i team di sicurezza se vogliono difendersi da tutti questi attacchi sempre più automatizzati e intelligenti?
Alissa Knight: So che questo è un argomento molto controverso, ma non credo nel mantenere gli umani nel ciclo. Credo che gli esseri umani debbano togliersi di mezzo in modo che l'IA possa muoversi alla velocità della macchina e fare ciò per cui l'abbiamo progettata. Ora abbiamo sicuramente una certa maturità e un po 'di tempo che deve andare nello sviluppo di più avanzati [LLM e strumenti automatizzati ad alta tecnologia]. Ma la cosa spaventosa è che in questo momento la tecnologia è la peggiore in assoluto in termini di capacità LLM e SLM. Le soluzioni diventano più capaci e impegnative da qui.
“Ora stiamo operando alla velocità e alla letalità delle macchine, dove le persone che davvero non sanno nemmeno come compilare un exploit stanno diventando rapidamente in grado di hackerare i sistemi e compromettere una rete”.Alissa Valentina Knight, CEO e Chief AI Officer, Assail
Il mio consiglio è quello di imparare a utilizzare l’IA nel tuo lavoro il prima possibile. Non fatevi coinvolgere nel dibattito: “L’IA mi sostituirà?” Guarda, l'IA è qui. Non c'è modo di fermarlo. Viene usato dai nostri nemici per compromettere le nostre reti. E chiediti: “Cosa possiamo fare per integrare meglio l’IA nelle nostre routine?” Fa parte del nostro lavoro quotidiano e ci aiuta a renderci più efficaci, ad aumentare la nostra efficacia come difensori, ad aumentare la nostra efficacia come red team e penetration tester, e ci aiuta a renderci più sicuri, giusto? Se non puoi batterli [gli utilizzatori di IA, cioè], unisciti a loro, dico sempre.
Focal Point: Alla velocità con cui il campo si sta muovendo, come vedi evolvere la natura del crimine informatico man mano che i criminali iniziano a utilizzare strumenti di hacking off-the-shelf e agenti di intelligenza artificiale autonomi su larga scala?
Alissa Knight: Ecco la cosa: la necessità è la madre dell'invenzione. Dal momento che la Cina e altri stati ostili non sono in grado di mettere le mani sull'acquisizione di GPU per data center di grandi dimensioni come i chip Hopper Nvidia o Blackwell Nvidia, è davvero difficile per loro costruire, eseguire, addestrare e inferire su questi modelli da 1 trilione di parametri. Quindi cosa stanno facendo? Stanno costruendo modelli linguistici di piccole dimensioni in grado di funzionare su cose come RTX 6000 con 96 giga di DRAM. Penso che questa continuerà ad essere la direzione per i nostri avversari e anche per la difesa.
Pensate ai telefoni cellulari. I telefoni cellulari hanno iniziato molto grandi, poi hanno iniziato a diventare sempre più piccoli nel tempo. Penso che questo sia ciò che accadrà con l'IA, dove stiamo iniziando con questi enormi modelli di trilioni di parametri. Rendendo i modelli più efficienti dal punto di vista energetico sul lato hardware e più efficienti, ci renderemo conto che stiamo cercando di rendere i modelli sempre più piccoli.
Quindi, in pratica, puoi avere qualcosa come un modello di linguaggio estremamente letale che è in grado di funzionare su un Raspberry Pi. O anche farlo su un dispositivo che si adatta in tasca come uno smartphone che è in grado di hackerare una rete wireless locale o hackerare una torre cellulare locale. Andando avanti, penso che i modelli diventeranno più piccoli e più letali.
Una volta, la curva tecnologica richiedeva un anno o anche diversi anni per l’arrivo di nuove innovazioni. Ora si passa a più di sei mesi. Se si guarda alle aziende di IA che sviluppano modelli di frontiera, si sta quasi spostando verso una sorta di ciclo di rilascio trimestrale per nuove funzionalità da avviare. L'innovazione sta ora accadendo più velocemente di prima e stiamo facendo passi da gigante.
Punto focale: Affascinante e spaventoso: Se ci fosse un consiglio generale che offriresti ai responsabili IT sulla sicurezza di un'organizzazione nell'era dell'IA, quale sarebbe?
Alissa Knight: Non puoi proteggere ciò che non sai di avere. Devi trovare quali tecnologie e strumenti sono nel tuo ambiente IT e proteggerli eseguendo continuamente test di penetrazione e cercando di hackerarli. Sono un grande sostenitore della gestione continua dell'esposizione alle minacce (CTEM). È importante continuare a hackerare te stesso e usare gli strumenti che l'avversario sta usando contro di te prima che altri lo facciano.
