Attacchi informatici ai registri elettorali, dati sanitari personali non protetti durante la pandemia di COVID-19, forme insidiose di discriminazione online:la tutela dei dati personali non potrebbe essere più fondamentale per affrontare quello che si preannuncia come un anno ancora più impegnativo.
Latanya Sweeney, titolare della cattedra “Daniel Paul” di Pratica del governo e della tecnologia presso l’Università di Harvard, nonché direttrice e fondatrice dell’ Data Privacy Lab dell’Università di Harvard, ha alcune importanti riflessioni da condividere in merito a sfide come queste. La pioniera della protezione dei dati sarà una delle relatrici principali alla conferenza “Women in Cybersecurity” (WiCyS) organizzata dall’ , che si terrà questo mese (17-19 marzo) a Cleveland.
Sweeney studia in che modo la tecnologia possa contribuire a salvaguardare gli archivi delle liste elettorali e a risolvere altri problemi di natura sociale, politica e di governance. È stata una figura di spicco nei settori della protezione dei dati e dell’equità algoritmica .
«I progettisti tecnologici sono i nuovi decisori politici.»
Il suo lavoro è stato citato nell’Health Insurance Portability and Accountability Act (HIPAA), che ha stabilito le norme in materia di riservatezza dei dati sanitari a livello federale. «Ho semplicemente avuto la singolare abitudine di trovarmi in prima linea quando la tecnologia e la società entrano in conflitto, di condurre un esperimento che metta in luce il problema e poi di coinvolgere mille menti brillanti nel tentativo di risolverlo», ha affermato Sweeney in un’intervista con Endpoint.
In precedenza, Sweeney ha ricoperto il ruolo di direttore tecnico presso la Commissione federale per il commercio degli Stati Uniti ed è stato insignito del prestigioso premio Louis D. Brandeis per la tutela della privacy. È stata la prima donna di colore a conseguire un dottorato di ricerca in informatica presso il Massachusetts Institute of Technology, nel 2001. Sweeney terrà un intervento alla conferenza WiCyS 2022 dal titolo “ 18 marzo”.
(La seguente intervista è stata sintetizzata e modificata per maggiore chiarezza.)
Potrebbe illustrarci i punti salienti del Suo discorso di apertura, intitolato “Come la tecnologia plasmerà il nostro futuro civico”, tenuto in occasione della conferenza “Women in Cybersecurity”?
I progettisti tecnologici sono i nuovi responsabili politici. Non li eleggiamo; non votiamo per loro. Ma le decisioni arbitrarie che prendono e la tecnologia che creano determinano il modo in cui viviamo le nostre vite. La nostra capacità di Enforce are un determinato valore, standard o norma dipende in larga misura da ciò che tale tecnologia ci consente di fare.
Come è nato il Suo interesse per la protezione dei dati?
In realtà, [all’inizio] non lo ero. Era quindi l'anno 1996. Per tutta la vita ho desiderato diventare un informatico e volevo costruire una “macchina pensante”, un computer in grado di apprendere e pensare come gli esseri umani. La mia carriera di dottorando in informatica al MIT procedeva a gonfie vele.
«. Stavo attraversando il laboratorio e ho sentito un esperto di etica dire: “I computer sono il male”.»
Quando ero uno studente di dottorato, un giorno stavo attraversando il laboratorio e ho sentito un esperto di etica dire: «I computer sono il male». L'esempio che ha citato riguardava i dati sanitari raccolti sui dipendenti statali, sulle loro famiglie e sui pensionati e forniti a ricercatori e aziende. Ha detto: «Non si rendono conto che, , qualcuno potrebbe utilizzare quei dati per ricattare i giudici o per compromettere le forze dell’ordine? «È anonimo?»
[I dati sanitari] includevano il mese, il giorno e l’anno di nascita, il sesso e il codice postale a cinque cifre. Così mi sono recato al municipio e ho acquistato la lista elettorale di Cambridge, nel Massachusetts, per 20 dollari. Il motivo per cui mi sono recato al Municipio di Cambridge per acquistare la lista elettorale era duplice. In primo luogo, William Weld era all’epoca governatore del Massachusetts ed era svenuto. Le informazioni relative al suo malore sarebbero contenute in tali dati sanitari. E il secondo motivo era che la lista elettorale riportava la data di nascita, il sesso e il codice postale.
È emerso che a Cambridge c’erano sei persone con la sua stessa data di nascita. Solo
tre di loro erano uomini, e lui era l’unico nel suo codice postale.
Ciò significava che la data di nascita, il sesso e il codice postale erano univoci
per William Weld nell’archivio degli elettori e sarebbero stati univoci per lui
nei dati sanitari, e che avrei potuto collegare tali [insiemi di dati] e associare il suo
nome alla sua cartella clinica in modo univoco. Ed è stata un’esperienza davvero sbalorditiva.
[Leggi anche: Il lavoro da remoto accresce le preoccupazioni relative alla privacy dei dati]
In brevissimo tempo le leggi in tutto il mondo sono cambiate a seguito di quell’esperimento. Qui, negli Stati Uniti, si tratterebbe della norma sulla privacy prevista dall’HIPAA. È stato davvero un momento straordinario.
Ha incontrato alcuni ostacoli nel tentativo di pubblicare i risultati di quell’esperimento, vero?
È assolutamente vero. Per anni si è svolto un ampio dibattito sulla seguente questione: si tratta di informatica? Alcuni potrebbero obiettare che non si tratti propriamente di sicurezza informatica, poiché, nel contesto della privacy di di cui stiamo parlando, nessuno è riuscito a introdursi nel sistema per ottenere [i dati]. Si tratta dei dati che metto a disposizione gratuitamente.
«: È stata un’esperienza davvero sbalorditiva. In pochissimo tempo le leggi in tutto il mondo sono cambiate.”
All’epoca, la sicurezza informatica si concentrava essenzialmente sulla sicurezza perimetrale, ovvero sull’assicurarsi che nessuno riuscisse a accedere alle informazioni senza autorizzazione o che venisse utilizzata la crittografia. Nessuno di quei modi di pensare, con quel tipo di strumenti a disposizione, avrebbe potuto risolvere questo problema. Ciò ha reso la pubblicazione un’impresa molto, molto ardua, poiché non si trattava affatto del tipo di problema che l’informatica era abituata a risolvere.
Recentemente ha fondato ad Harvard l’ Public Interest Tech Lab , che aiuta i ricercatori a «ripensare il modo in cui la tecnologia possa essere utilizzata dai governi e dalla società civile per il bene pubblico». Ma non è solo un luogo in cui discutere di teoria. State realizzando app e piattaforme vere e proprie.
Sotto molti aspetti, il Public Interest Tech Lab, che chiamiamo semplicemente “Tech Lab”, rappresenta una naturale estensione del lavoro iniziato quando ero uno studente di dottorato. La prima ondata di questi scontri tra tecnologia e società ha riguardato la tutela dei dati personali. E poi sono emersi i temi dell’equità algoritmica e tutte queste questioni relative alle elezioni del 2016 . E, sotto molti aspetti, tutte queste tendenze sono ancora presenti tra noi. In realtà non li abbiamo risolti completamente.
Quali nuove tecnologie potremmo proporre per iniziare a risolvere questi problemi? E talvolta la soluzione consiste in una modifica legislativa o normativa, ed è proprio ciò che abbiamo fatto. Ma abbiamo anche sviluppato nuove tecnologie.
[Leggi anche: Far luce sui “dark pattern” e sulla raccolta dei dati personali]
Ma abbiamo ancora bisogno di un numero sempre maggiore di esperti in tecnologia: nell’ , nel governo e al Congresso. Abbiamo bisogno di esperti di tecnologia che ragionino in questo modo nell’interesse pubblico, anche se lavorano presso le grandi aziende tecnologiche. La domanda è quindi la seguente: come si fa, , a creare quella pipeline? Ecco perché è stato creato il Tech Lab.
Cosa sta imparando grazie a questo lavoro?
Nel 2016, tra le altre cose, siamo stati i primi a segnalare le vulnerabilità presenti nei siti web dedicati alla registrazione degli elettori. E, per la maggior parte, tali vulnerabilità sono ancora presenti. Non esiste una soluzione immediata.
Il problema è che si potrebbe assumere l'identità di un elettore e quindi modificare la sua iscrizione nelle liste elettorali in modo tale da rendere il suo voto non
valido o non pienamente valido. Non c’è nulla che l’elettore possa sapere o
possa fare, e si potrebbe attuare questa strategia su larga scala, in modo da sottrarre uno o due punti percentuali in tutto lo Stato senza che nessuno se ne accorga davvero.
Abbiamo avuto l’idea di creare un sito VoteFlare. L'idea è quella di monitorare in tempo reale l'iscrizione alle liste elettorali dei cittadini. È un po’ come il monitoraggio del credito: se dovesse verificarsi un problema con il Suo credito, la società di credito La avviserà. Ebbene, facciamo la stessa cosa con le iscrizioni alle liste elettorali e con le schede elettorali per corrispondenza. Se dovesse verificarsi un problema, Le invieremo un SMS, un’e-mail o un messaggio vocale, a seconda di quanto da Lei selezionato, per informarla del problema, in modo che Lei abbia la possibilità di correggerlo e che il Suo voto venga conteggiato integralmente.
[Leggi anche: Il “Strengthening American Cybersecurity Act” mira a colmare alcune lacune critiche]
Siamo riusciti a renderlo operativo in tempo per il ballottaggio in Georgia. E così siamo riusciti a portare un grande sollievo agli elettori della Georgia, indipendentemente dalla loro appartenenza politica. E quest’anno stiamo cercando di estenderlo a 48 stati e al Distretto di Columbia. In Texas si sono tenute le primarie e il sistema è già operativo in quello Stato.
Lei ha accennato all’equità algoritmica. Cosa Le colpisce maggiormente in termini di pregiudizi e stereotipi?
Quando ho iniziato a insegnare ad Harvard, sono stato intervistato da un giornalista e ho dovuto mostrargli un mio articolo in particolare. Così ho digitato il mio nome nella barra di ricerca di Google , e lui ha indicato un annuncio pubblicitario apparso sulla destra, dicendo: «Beh, lasci perdere quell’articolo». «Mi racconti di quella volta in cui è stato arrestato.»
“L’annuncio recitava: ‘Latanya Sweeney arrestata’ seguito da un punto interrogativo. E gli ho detto: «Beh, non sono mai stato arrestato».”
L’annuncio recitava: «Latanya Sweeney arrestata», seguito da un punto interrogativo, e «Scoprite i dettagli del suo arresto e altro ancora». E gli ho detto: «Beh, non sono mai stato arrestato».
L'annuncio era disponibile in due versioni: o lasciava intendere che l'utente avesse precedenti penali, oppure era neutro e recitava: «Scopra ulteriori informazioni».
Perché stava accadendo tutto questo? Quali nomi comparivano negli avvisi di arresto e quali no? Quando ho digitato “Latanya” nella ricerca per immagini di Google, sono apparsi tutti questi volti di persone di colore, mentre quando ho digitato “Tanya” nella stessa ricerca, sono apparsi tutti questi volti di persone bianche.
Ciò mi ha spinto a condurre uno studio. Infatti, se il Suo nome proprio viene dato più spesso ai bambini di colore che a quelli bianchi, riceverà queste pubblicità che alludono a un arresto. Si ricordi che l’annuncio è pubblicato a nome completo della persona
. Non si tratta solo del nome di battesimo. Non si tratta certo di una certa Latanya. È Latanya Sweeney.
Era la prima volta che un algoritmo, nella fattispecie AdSense di Google , fosse oggetto di un’indagine da parte del Dipartimento di Giustizia per una presunta violazione del Civil Rights Act.
Cosa direbbe alle donne che stanno valutando l’idea di intraprendere la sua professione?
È di fondamentale importanza, poiché ogni donna vedrà cose diverse su . Se si riflette su quella vicenda riguardante la discriminazione e la pubblicità online, si capisce che non sarebbe mai accaduta se non avessi avuto un nome dato più spesso ai bambini di colore che a quelli bianchi.
Nulla dovrebbe essere precluso alle donne. Abbiamo bisogno che in un determinato settore operino le persone migliori e più brillanti: non quelle che soddisfano semplicemente un criterio o un altro, ma quelle che sono davvero le migliori e le più brillanti e che ci aiutano a comprendere meglio come competere e ottenere risultati in un mondo globalizzato.
