Immagini di dover assumere nuovo personale: ha pubblicato gli annunci di lavoro e ha iniziato a selezionare i candidati utilizzando l’intelligenza artificiale, ma ha notato una mancanza di diversità nel gruppo dei candidati. Si sta chiedendo perché? Come può confermarvi , responsabile dell’intelligenza artificiale presso l’ : è probabile che l’intelligenza artificiale sia soggetta a pregiudizi.
Da anni si registrano esempi di intelligenza artificiale discriminatoria, come lo strumento di selezione del personale Amazon , sviluppato e poi abbandonato nel 2018 dopo che si è scoperto che discriminava le donne. Lo strumento di selezione dei curriculum di un’altra azienda mostrava una predilezione per il nome Jared e per i giocatori di lacrosse delle scuole superiori, due fattori casuali che riteneva indicativi delle prestazioni lavorative. In è stato riportato un altro caso recente di parzialità nell’intelligenza artificiale, in cui alcuni ricercatori di informatica hanno chiesto a ChatGPT di redigere lettere di raccomandazione per ipotetici dipendenti; il sistema ha descritto i candidati di sesso maschile come “rispettosi”, “affidabili” e “autentici”, mentre quelli di sesso femminile come “splendide”, “cordiali” ed “emotive”.
In un momento in cui il 70% delle aziende dichiara di utilizzare strumenti automatizzati e basati sull’intelligenza artificiale per i propri processi di assunzione, è fondamentale che i team che si occupano di IA siano in grado di identificare e correggere i pregiudizi – non solo quelli di genere, ma di ogni tipo – presenti nei propri strumenti e algoritmi di IA, al fine di tutelare non solo la reputazione dell’azienda, ma anche i suoi profitti. La diversità all’interno dei team umani svolge un ruolo fondamentale in questo contesto, e sempre più aziende stanno riconoscendo il valore delle donne nelle posizioni dirigenziali nel settore dell’intelligenza artificiale.
Da un recente sondaggio condotto da IBM è emerso che il 33% delle aziende ha una donna responsabile delle decisioni relative alla strategia in materia di intelligenza artificiale. Ciononostante, oltre la metà (56%) dei dirigenti aziendali e dei manager di livello intermedio riferisce che “non vi sono abbastanza donne a guidare il dibattito sull’ e dell’IA generativa” e il 73% dei leader aziendali sottolinea che la presenza di donne in posizioni dirigenziali nel settore dell’IA è fondamentale per ridurre i pregiudizi di genere.
«Dobbiamo ridurre il divario e [garantire che] al tavolo delle decisioni sia presente più di una donna qualificata», osserva Janet George, vicepresidente aziendale del gruppo Data Center e IA presso Intel Corporation. «Spesso ce n’è solo uno.»
Questo è stato un anno difficile per le donne nel settore dell’intelligenza artificiale. Nel mese di marzo, l’UNESCO ha pubblicato uno studio intitolato “ ” sull’intelligenza artificiale generativa () , che ha messo in luce pregiudizi di genere e stereotipi razziali nei modelli linguistici di grandi dimensioni (LLM). Nel mese di aprile, l’organizzazione senza scopo di lucro Women Who Code , fondata 13 anni fa, ha chiuso il sito. A maggio, la questione delle normative sull’intelligenza artificiale in materia di tutela dell’identità è stata oggetto di attenzione quando Scarlett Johansson ha affermato che OpenAI avrebbe utilizzato la sua voce senza consenso per il proprio ChatGPT “Sky”. Nonostante tali sfide, all’orizzonte si profilano nuove opportunità per le imprese operanti nel settore dell’intelligenza artificiale gestite da donne. Google e Female Foundry offrono l’accesso all’incubatore “ ” di Visionaries AI a una selezione di aziende fondate da donne.
Con l’avvento dell’intelligenza artificiale, che sta determinando un’esigenza fondamentale di diversità di pensiero e di prospettiva nei vertici aziendali, Focal Point ha intervistato tre donne che ricoprono il ruolo di Chief AI Officer per conoscere il loro punto di vista sugli ostacoli e sulle prospettive che si prospettano. Hanno discusso dell’importanza dell’ , della riduzione dei pregiudizi, del coinvolgimento di un maggior numero di voci nel processo decisionale e dell’incremento dei profitti aziendali, aspetti che – come hanno sottolineato – sono tutti correlati.
La diversità a vantaggio dei risultati economici
Alcuni settori e aziende hanno registrato una reazione negativa alle iniziative a favore della diversità, ma i vantaggi economici sono evidenti: secondo il rapporto “ 2023 ” di McKinsey , intitolato “: Diversity Matters Even More”, le aziende “che si collocano nel quartile superiore per quanto riguarda la rappresentanza etnica” presentano una probabilità maggiore del 39% di ottenere risultati superiori alla media.
«. Dobbiamo [garantire che] al tavolo siano presenti più di una donna qualificata.» Spesso ce n’è solo uno.”Janet George, vicepresidente aziendale del gruppo Data Center e IA presso Intel Corporation
Katia Walsh ritiene che ciò valga in particolare per la leadership. «Il mondo deve cambiare… devono cambiare le opportunità di leadership per i gruppi sottorappresentati», osserva Walsh, responsabile digitale presso la Harvard Business School ed ex responsabile dell’intelligenza artificiale presso Levi Strauss & Co. e Vodafone Group. Tale compito “monumentale”, osserva, richiede che i leader di tutti i settori si adoperino per promuovere una maggiore diversità. «Disponiamo dei dati, ma dobbiamo agire di conseguenza», afferma. «Maggiore è la diversità del team dirigenziale, migliori saranno le decisioni aziendali, che rispecchieranno meglio la realtà.»
Presso Michelin, il colosso francese produttore di pneumatici, Ambica Rajagopal, responsabile del gruppo per i dati e l’intelligenza artificiale, indica l’intelligenza collettiva come fattore determinante per un team altamente performante, sottolineando che l’equità e la diversità in tutti i loro aspetti ( e,, tipo di personalità, genere e altro ancora) rivestono tutte la stessa importanza. Rajagopal è responsabile della creazione di team specializzati in tecnologia di intelligenza artificiale e dell’individuazione dei casi d’uso dell’intelligenza artificiale in grado di apportare valore all’azienda. Oltre ai semplici pneumatici, Michelin sta sviluppando tecnologie basate sull’intelligenza artificiale per una vasta gamma di “soluzioni di mobilità”, dai microchip in grado di prevedere l’usura degli pneumatici agli strumenti di previsione dei gusti culturali, al fine di rendere le sue guide Michelin “ ” – rinomate in tutto il mondo – ancora più personalizzate e adattabili alle esigenze individuali.
«Quando si pensa di sviluppare soluzioni incentrate sul cliente che dimostrino una reale empatia nei confronti della clientela, il fatto che il team rifletta la società nel suo complesso contribuisce a realizzare proprio questo obiettivo», afferma Rajagopal.
Dare voce alle minoranze sottorappresentate
I dirigenti aziendali lungimiranti possono adottare una serie di misure volte a dare maggiore risalto alle voci sottorappresentate, contribuendo così a garantire un’implementazione dell’IA meno soggetta a pregiudizi. Un’opzione controversa che, secondo molti, darà i suoi frutti: l’adozione di norme che incoraggino la diversità nei ruoli dirigenziali all’interno della vostra azienda. Ad esempio, la norma di quotazione del Nasdaq richiede che le società dispongano di un numero minimo di amministratori provenienti da contesti diversi. La sentenza non è stata accolta di buon grado e gli esperti ritengono che la legge verrà annullata da una corte d’appello, la quale, nell’ambito del procedimento “ ”, ha ascoltato le argomentazioni orali relative al caso “ ” nel mese di maggio.
«: disponiamo dei dati, ma dobbiamo agire di conseguenza». “Maggiore è la diversità del team dirigenziale, migliori saranno le decisioni aziendali.”Katia Walsh, responsabile digitale della Harvard Business School ed ex responsabile dell’intelligenza artificiale presso Levi Strauss & Co.
Ciononostante, esperti come George dell’ Intel ritengono che le imprese dovrebbero iniziare ad attenersi a questa norma, indipendentemente dal fatto che rimanga in vigore o meno. «Dobbiamo sostenere le leggi», afferma. «Abbiamo bisogno di traguardi significativi nella composizione dei vertici aziendali. «Quando una legge è in vigore, le persone la rispettano.» George raccomanda che ogni gruppo dirigenziale esamini la propria composizione e si chieda: «La composizione del nostro gruppo dirigenziale è 50-50 [uomini-donne]?» «L’equità parte dai vertici della gerarchia dirigenziale», afferma George.
Un altro modo per coinvolgere un maggior numero di persone è quello di esaminare gli ostacoli presenti nelle descrizioni delle posizioni lavorative, al fine di assicurarsi di non creare barriere ai candidati. Nel costituire il proprio team, la Walsh ha eliminato il requisito relativo al titolo di studio.
«Valutate davvero [le descrizioni delle mansioni] con occhio obiettivo», consiglia Walsh. «In alcuni casi, è possibile utilizzare l’intelligenza artificiale generativa nelle descrizioni delle posizioni lavorative e segnalare determinati requisiti che costituiscono un ostacolo.»
Può essere d’aiuto anche disporre di programmi volti a incoraggiare le voci sottorappresentate ad affacciarsi al settore. L’ex datore di lavoro di Walsh ha avviato un programma di riqualificazione professionale, un corso intensivo di otto settimane dedicato all’ l’apprendimento automatico. Il programma prevedeva un processo di selezione volto a valutare le capacità di risoluzione dei problemi, le capacità analitiche e la perseveranza dei candidati – qualità necessarie per partecipare al programma – ma non richiedeva alcuna esperienza di programmazione.
«Si tratta di offrire alle persone l’opportunità [di imparare] e si ottengono risultati concreti a livello aziendale», afferma Walsh. «Alcuni hanno cambiato lavoro, ma la maggior parte delle persone che abbiamo formato è tornata alle proprie mansioni precedenti e, anziché utilizzare Excel, è riuscita ad automatizzare le proprie attività utilizzando il codice in Python. Ora dispongono delle competenze tecniche necessarie, hanno aggiornato le proprie mansioni e hanno ottenuto risultati aziendali migliori.”
Desidera diventare un Chief AI Officer? Cercate innanzitutto un mentore
Mentre i dirigenti aziendali valutano tali approcci sistemici per migliorare la diversità nel settore dell’intelligenza artificiale, anche coloro che aspirano a fare carriera in questo ambito possono dare il proprio contributo. Il tutoraggio tra pari può rivelarsi utile per consolidare la propria posizione nel settore dell’intelligenza artificiale. Rajagopal vi incoraggia a entrare in contatto con professionisti del settore che condividono i vostri interessi specifici.
“Comprendete gli aspetti dell’intelligenza artificiale che contano davvero per voi e individuate, all’interno dell’ Community , in occasione di conferenze e su LinkedIn, quelle persone che condividono le vostre stesse preoccupazioni.”Ambica Rajagopal, responsabile del gruppo per i dati e l’intelligenza artificiale, Michelin
«Cercate di comprendere gli aspetti dell’intelligenza artificiale che contano davvero per voi e individuate, all’interno dell’ Community , in occasione di conferenze e su LinkedIn , quelle persone che condividono le vostre stesse preoccupazioni e il vostro stesso modo di ragionare», afferma Rajagopal. «Per me, si trattava sia dell’impatto dell’intelligenza artificiale sulle persone, sia dal punto di vista etico che della gestione del cambiamento, sia degli aspetti tecnici più approfonditi, ovvero delle persone dotate di competenze tecniche nel campo dell’intelligenza artificiale.»
L'autrice sottolinea inoltre la diffusione dell'effetto “leaky pipeline”, che colpisce le donne nel settore tecnologico . «A metà carriera si osserva un calo della percentuale di donne… Per quanto riguarda l’inserimento delle donne nel settore dell’intelligenza artificiale, si tratta di creare modelli di riferimento e di raccontare le nostre esperienze e il nostro percorso.»
In che modo i responsabili dell’intelligenza artificiale riducono i pregiudizi
Quando si tratta di implementare l’intelligenza artificiale, la diversità dei dati, la diversità dei team e la diversità degli strumenti sono tutti elementi fondamentali per ridurre i pregiudizi.
Essere consapevoli dei potenziali pregiudizi presenti nei dati esistenti, ad esempio, dovrebbe essere una responsabilità di tutti, dai vertici aziendali che approvano l’implementazione dell’intelligenza artificiale e ne sono in ultima istanza responsabili, fino ai dipendenti dei vari reparti che lavorano con tali algoritmi. Quando tutti si sentono parte integrante del team di sicurezza informatica, aumentano le possibilità di individuare eventuali pregiudizi. Non farlo può rivelarsi costoso. Lo scorso agosto, l’EEOC ha raggiunto un accordo in merito alla sua prima causa per discriminazione legata all’intelligenza artificiale , in cui un consorzio di tutoraggio ha accettato di pagare 365.000 dollari dopo che il proprio strumento di selezione basato sull’intelligenza artificiale aveva automaticamente scartato le candidate di sesso femminile con un punteggio superiore a 55 e i candidati di sesso maschile con un punteggio superiore a 60.
Anche la scelta degli strumenti adeguati può contribuire a ridurre i pregiudizi. Walsh raccomanda di utilizzare strumenti che integrino dati rappresentativi. «Ho una preferenza per gli strumenti open source perché, per definizione, vi contribuisce il mondo intero, con persone provenienti da contesti, percorsi formativi e luoghi diversi, e questo offre maggiori opportunità [in termini di diversità]», afferma. «Non si tratta di eliminare [le voci]; si tratta piuttosto di massimizzare la possibilità di ridurre i pregiudizi.»
Rajagopal sottolinea l’importanza di definire linee guida sull’intelligenza artificiale a livello aziendale e apprezza gli strumenti che sensibilizzano i data scientist sui potenziali pregiudizi. Il suo team sta attualmente valutando le opzioni offerte da aziende quali Holistic AI e Fiddler AI, che propongono soluzioni tecnologiche in grado di garantire il monitoraggio dell’apprendimento automatico e dei modelli LLM, nonché misure di salvaguardia relative all’intelligenza artificiale. Ad esempio, Fiddler consente agli utenti di valutare le disuguaglianze intersezionali analizzando le metriche di un set di dati dell’ , disponibile all’indirizzo.
L’obiettivo è quello di riflettere la varietà delle esperienze e delle prospettive umane, con l’intelligenza artificiale che funge da «specchio che teniamo davanti alla vita», afferma Walsh. «Lo specchio riflette ciò che vi si trova. «Finché non cambieremo ciò che vi si riflette, lo specchio continuerà a riflettere un mondo pieno di imperfezioni».
PER SAPERNE DI PIÙ
Per chi desidera ampliare la propria rete di contatti e le proprie conoscenze, vi invitiamo a prendere in considerazione le seguenti risorse:
- Summit dei Chief AI Officer – Il secondo summit annuale dei CAIO organizzato dal CDO Club si terrà 2 ottobre (il giorno successivo al summit dei CDAO ) a Washington, D.C. Tra i relatori figureranno il vice CAIO del Dipartimento del Tesoro degli Stati Uniti, Brian Peretti; la consulente senior per i talenti digitali presso l’Ufficio del Capo per il Digitale e l’Intelligenza Artificiale del Dipartimento della Difesa (DoD), Angela Cough; nonché i responsabili dell’intelligenza artificiale (CAIO) di Avanade, Fox Rothschild e del Dipartimento per l’edilizia abitativa e lo sviluppo urbano degli Stati Uniti, tra gli altri.
- Chief AI Officer (CAIO) Talent Map – Il primo rapporto nel suo genere redatto dal CDO Club, che illustra i dati demografici chiave relativi ai Chief AI Officer, la retribuzione, la distribuzione geografica, i percorsi di carriera, le strutture gerarchiche e le posizioni lavorative aperte per il ruolo di CAIO. L'uscita è prevista per metà luglio.
