Ultimamente la vita non è stata clemente con il gigante dei social media TikTok. In primo luogo, il Congresso ha sottoposto l’ a un severo interrogatorio in merito alle sue pratiche in materia di privacy. Successivamente, il governo britannico ha inflitto a una sanzione di £12,7 milioni (circa 15,8 milioni di dollari) per aver utilizzato i dati personali dei minori senza il consenso dei genitori. L’elenco pubblicato dall’ dei governi — tra cui Stati Uniti, Unione Europea, Canada, Nuova Zelanda e Australia — che ne vietano l’uso da parte dei propri dipendenti continua ad allungarsi. Negli Stati Uniti, gli utenti favorevoli al divieto di TikTok superano quelli contrari in un rapporto di 2-to-1 a 1.
TikTok non è l'unico. L'attenzione rivolta al settore tecnologico ha raggiunto livelli senza precedenti. E l'avversione nei confronti delle grandi aziende tecnologiche è probabilmente l'unico punto su cui repubblicani e democratici riescono a trovare un accordo al giorno d'oggi. «È giunto il momento della legge 2023», ha affermato la senatrice Amy Klobuchar (D-MN) alla NBC News, nel corso di una discussione sui recenti sforzi legislativi bipartisan volti a porre un freno alle grandi aziende tecnologiche. «Prendiamo la risoluzione di approvare finalmente uno di questi disegni di legge.»
In poche parole, tutto si riduce alla fiducia. Per le aziende tecnologiche, tale risorsa scarseggia. Riconquistarlo è ora di fondamentale importanza.
Il problema: la fiducia richiede consapevolezza etica e, secondo il primo rapporto di Deloitte intitolato “ : State of Ethics and Trust in Technology” (), pubblicato a dicembre, la maggior parte delle aziende — sia del settore tecnologico che di altri settori — non dispone di un quadro etico relativo alla tecnologia.
L’indagine ha coinvolto quasi 1.800 professionisti in otto settori (tra cui tecnologia, servizi finanziari, sanità e pubblica amministrazione) in merito agli approcci etici alle tecnologie emergenti quali veicoli autonomi, l’informatica quantistica e la realtà aumentata o realtà virtuale. È emerso che il 87% dei soggetti intervistati non possedeva alcuna conoscenza o non era a conoscenza dei principi etici che regolano lo sviluppo e l’utilizzo delle tecnologie emergenti all’interno delle proprie organizzazioni.
Sebbene tale constatazione valga per le imprese in generale, riveste un’importanza fondamentale per le aziende del settore tecnologico, che attualmente operano sotto un controllo sempre più rigoroso in un contesto economico difficile.
«La fiducia è la nuova valuta in un contesto sempre più competitivo», afferma Rozita Dara, professore associato di informatica presso l’Università di Guelph, in Ontario (Canada). «La fiducia conferisce alle organizzazioni un vantaggio competitivo», afferma.
È giunto il momento di definire dei quadri etici
Le lacune etiche si manifestano in modi diversi. TikTok si è distinto per il suo presunto uso improprio dei dati e per le caratteristiche che creano dipendenza presenti nell’ App , che secondo i critici rischiano di intrappolare gli utenti. Uno studio condotto dall’ dell’Università di Harvard, disponibile all’indirizzo , ha evidenziato la presenza di pregiudizi razziali nella tecnologia di riconoscimento facciale sviluppata da IBM e Microsoft. Inoltre, alcuni osservatori hanno individuato pregiudizi di genere in Google Tradurre e in un sistema di selezione del personale basato sull’intelligenza artificiale Amazon (che l’azienda ha infine deciso di abbandonare).
«La fiducia conferisce alle organizzazioni un vantaggio competitivo.»Rozita Dara, professore associato di informatica presso l’Università di Guelph
La fiducia in un’azienda dipende dal suo impegno a favore di un uso etico della tecnologia. E ciò vale a maggior ragione per le aziende che, in realtà, creano quella tecnologia.
"Abbiamo creato delle aspettative su come sarà questa tecnologia e su cosa sarà in grado di fare", afferma Yasemin J. Erden, docente presso il Digital Society Institute dell’Università di Twente a Enschede, nei Paesi Bassi. Nel promuovere questa tecnologia presso gli utenti, sussiste il rischio che il produttore o il fornitore non ne colga appieno le implicazioni. "Tutto ciò incide sulla fiducia che le persone ripongono nella tecnologia."
Stiamo assistendo proprio ora a questo fenomeno nel campo delle tecnologie cognitive (IA). A marzo, oltre 1.100 esperti di informatica e altre personalità di spicco del settore tecnologico, tra cui Elon Musk, hanno firmato una lettera aperta pubblicata su () in cui si chiedeva a tutti i laboratori di sospendere i lavori su qualsiasi modello di addestramento più potente di GPT-4, un modello linguistico di grandi dimensioni sviluppato dalla società di ricerca OpenAI che è alla base del suo controverso servizio ChatGPT.
[Leggi anche: Sì, ChatGPT darà una forte spinta all’hacking — ma contribuirà anche a combatterlo]
Erden si sente a disagio nel discutere i dettagli dell'ultima versione di GPT, poiché i suoi sviluppatori non sono stati sufficientemente trasparenti. "Non sappiamo esattamente come riesca a fare ciò che fa", avverte, facendo eco alle critiche espresse da altri esperti di intelligenza artificiale. "Allora, come possiamo davvero valutare le affermazioni che vengono fatte al riguardo?" (Il fatto che questo chatbot, di cui si sa ancora poco, sia stato rapidamente cooptato da autori di minacce informatiche per creare malware e altri contenuti pericolosi non migliora certo la situazione.)
Le migliori pratiche delle grandi aziende tecnologiche
Le norme e le politiche che disciplineranno il settore tecnologico sono in arrivo, su questo non vi è alcun dubbio. Tuttavia, fino a quando tali norme non entreranno in vigore, è fondamentale che le aziende tecnologiche adottino una propria serie di principi etici, che possano essere utilizzati sia internamente (per guidare lo sviluppo di nuove tecnologie affidabili) sia esternamente (per conquistare la fiducia dei consumatori).
«[Mozilla è] davvero trasparente: è chiara riguardo ai propri obiettivi, ai propri limiti, a ciò che sta facendo e ai cambiamenti che sta apportando.»Yasemin J. Erden, docente a contratto presso il Digital Society Institute dell’Università di Twente
Il rapporto di Deloitte costituisce un'utile guida introduttiva. Si raccomanda ai dirigenti dell’azienda di incontrare i team che svolgono effettivamente il lavoro. E per avviare il dibattito, propone un quadro di riferimento articolato in sette parti volto ad aiutare a valutare lo “stato etico” dei prodotti e dei servizi di un’azienda tecnologica. Secondo il quadro etico di Deloitte in materia di fiducia nella tecnologia, qualsiasi nuova tecnologia adottata da un’azienda tecnologica dovrebbe:
- Trasparenza: Gli utenti dovrebbero comprendere ed essere in grado di verificare in che modo la tecnologia contribuisca al processo decisionale.
- Sicurezza e protezione: Gli utenti devono essere tutelati da eventuali danni e i loro dati non devono essere utilizzati o conservati al di là delle finalità dichiarate e previste, né senza l’esplicita autorizzazione dell’utente.
- Privato: La tecnologia dovrebbe rispettare la privacy degli utenti .
- Responsabile: La tecnologia dovrebbe essere sostenibile, rispettosa della dignità umana e al servizio del bene comune e sociale.
- Robusta e affidabile: La tecnologia dovrebbe garantire risultati accurati e costanti.
- Responsabilità: Deve essere chiaro chi sia responsabile dell’uso della tecnologia.
- Equità e imparzialità: La tecnologia dovrebbe essere progettata in modo da garantire un trattamento equo a tutti.
La definizione dei principi rappresenta solo una parte della sfida. L’altro aspetto consiste nel metterle in pratica, sottolinea Brian Green, direttore del dipartimento di etica tecnologica presso il Markkula Center for Applied Ethics dell’Università di Santa Clara. "In che modo si riesce effettivamente a realizzare tutto ciò nel contesto di un’azienda quando si sviluppano nuovi prodotti?" chiede.
Il Markkula Center mette a disposizione una serie di strumenti destinati agli ingegneri e ai progettisti tecnologici per aiutarli ad affrontare questo processo. Pubblicherà a breve un manuale sull’applicazione dell’etica tecnologica.
Dara indica l’etica fin dalla progettazione come una best practice fondamentale. Integra l’etica nello sviluppo di un prodotto o servizio sin dall’inizio, tenendo conto dell’intero ecosistema, compresi i diritti e gli interessi degli utenti. È come aggiungere "Eth" al team DevSecOps di . Gli sviluppatori devono tenere conto degli aspetti etici nel verificare la funzionalità di uno strumento, valutandone l’affidabilità e l’applicabilità.
Chi sta agendo nel modo giusto?
Come sottolinea il rapporto di Deloitte, l’applicazione di specifici principi etici potrebbe variare a seconda delle diverse tecnologie. L’intelligenza artificiale presenta implicazioni, utenti e caratteristiche tecniche diverse rispetto, ad esempio, all’informatica quantistica, alla blockchain o alla realtà virtuale.
Gli esperti di etica dovrebbero approfondire gli aspetti specifici sulla base dei parametri propri di ciascuna azienda — il che solleva la seguente domanda: tra le aziende che stanno esplorando questo nuovo panorama etico, ve ne sono alcune che stanno agendo nel modo corretto?
Erden indica Mozilla, l’azienda produttrice di software con sede in California che è in parte fondazione e in parte società per azioni.
«Sono davvero trasparenti: sono chiari riguardo ai propri obiettivi, ai propri limiti, a ciò che stanno facendo e a ciò che stanno modificando», afferma. "Ritengo che vi sia grande rispetto per le loro piattaforme, come Firefox, e per le loro ambizioni."
Mozilla investe inoltre in modo consistente nel coinvolgimento degli utenti, osserva Erden. Ha dimostrato il proprio impegno a favore di una tecnologia etica nel manifesto “ ” (), con iniziative quali la “Responsible Computing Challenge” ( ), il materiale didattico “ ” ( ) su come affrontare le questioni etiche nel settore tecnologico e, ora, la “Responsible AI Challenge” (). Questi sono solo alcuni esempi.
Green è coautore di un caso di studio del World Economic Forum intitolato “ ” ( ) sull’etica, disponibile all’indirizzo IBM , e cita Big Blue come leader in questo ambito. L’azienda ha istituito nel 2018 un comitato etico sull’intelligenza artificiale, ha pubblicato i propri principi in materia di fiducia e trasparenza e li ha sostenuti con cinque pilastri della fiducia, promuovendo valori quali la privacy e l’equità. Ha inoltre donato strumenti all’ Community , un’iniziativa open source, per contribuire alla “robustezza avversaria”, ovvero alla difesa dell’intelligenza artificiale dall’uso improprio da parte di malintenzionati.
Ha scritto un’analisi simile su Salesforce, che nel 2018 ha istituito il proprio Ufficio per l’uso etico e umano della tecnologia, e un’altra su Microsoft.
Naturalmente, nessuna azienda è perfetta, ed è per questo che molti esperti nel complesso campo dell’etica cercano di evitare di esprimere un’approvazione incondizionata.
«Tutto ciò che possiamo fare è valutare le singole pratiche, le singole tecnologie e le singole misure», conclude Erden. Si tratta di un processo ripetitivo che valuta le azioni in base ai loro meriti etici e che, in teoria, dovrebbe incoraggiare le aziende a continuare a impegnarsi per migliorare, prodotto dopo prodotto, nuovo servizio tecnologico dopo nuovo servizio tecnologico. "Non se ne vede la fine."
