Tech-News

Algoritmi e pregiudizi di genere

La ricerca pubblicata sulla rivista Proceedings of the National Academy of Sciences è solo una delle tante che mettono in luce come l’intelligenza artificiale può alterare le nostre percezioni e azioni.
L’uso dell’AI può comportare la propagazione, piuttosto che la riduzione, delle disparità esistenti, affermano gli autori dello studio che hanno cercato di determinare se il grado di disuguaglianza di una società è correlato a pregiudizi presenti nei risultati frutto degli algoritmi e, in tal caso, se l’esposizione a tale output potrebbe influenzare le persone ad agire in conformità con questi pregiudizi.
Per valutare possibili pregiudizi di genere nei risultati di ricerca hanno preso in esame parole come “persona”, “studente” o “umano” che, pur essendo di per sé neutre, sono in realtà più spesso riferite a soggetti maschili. Hanno condotto ricerche di immagini su Google per il termine “persona” in 37 Paesi. I risultati hanno mostrato che la proporzione di immagini maschili prodotta da queste ricerche era più alta nelle nazioni con una maggiore disuguaglianza di genere (così come rilevata dal Global Gender Gap Index del World Economic Forum), rivelando che il pregiudizio algoritmico di genere segue la disuguaglianza di genere nella società.

Gli algoritmi discriminano

Il passo successivo è stato quello di cercare di determinare se l’esposizione ai risultati dei motori di ricerca possa modellare le percezioni e le decisioni delle persone in modo coerente con le disuguaglianze sociali preesistenti. Per fare ciò, hanno condotto una serie di esperimenti coinvolgendo un totale di quasi 400 partecipanti statunitensi di sesso femminile e maschile.
Ai partecipanti sono stati sottoposti i risultati di una ricerca di immagini di Google relativa a quattro professioni poco conosciute che rispecchiasse i risultati di ricerca di immagini per la parola chiave “persona” sia di nazioni con punteggi di disuguaglianza di genere elevati sia di quelli dove la disuguaglianza di genere è inferiore. Prima di vedere le immagini la maggior parte dei partecipanti, sia donne che uomini, hanno dichiarato che le professioni in esame erano più probabilmente svolte da un uomo che una donna. Tuttavia, dopo aver visualizzato i risultati della ricerca di immagini, i partecipanti nelle condizioni di bassa disuguaglianza hanno spesso espresso una opinione diversa a quella di partenza; al contrario, quelli nella condizione di alta disuguaglianza hanno mantenuto le loro percezioni. Lo stesso meccanismo si è verificato anche quando ai soggetti intervistati è stato chiesto di valutare la probabilità con cui un uomo o una donna potessero essere assunti in ciascuna professione, dimostrando come il pregiudizio possa influenzare le decisioni di assunzione.
“Questi risultati suggeriscono un ciclo di propagazione del pregiudizio tra società, intelligenza artificiale e utenti”, scrivono gli autori dello studio, aggiungendo che è necessario “un modello di AI etica che combini la psicologia umana con approcci computazionali e sociologici per illuminare la formazione, il funzionamento e l’attenuazione del pregiudizio algoritmico”.


Algoritmi e pregiudizi di genere - Ultima modifica: 2022-09-07T09:27:16+00:00 da Francesco Marino

Giornalista esperto di tecnologia, da oltre 20 anni si occupa di innovazione, mondo digitale, hardware, software e social. È stato direttore editoriale della rivista scientifica Newton e ha lavorato per 11 anni al Gruppo Sole 24 Ore. È il fondatore e direttore responsabile di Digitalic

Recent Posts

Asus Zenbook A14: il laptop AI-ready che pesa meno di un chilo

Lo Zenbook A14 è il nuovo ultraleggero firmato ASUS: design in Ceraluminum™, prestazioni AI con…

14 ore ago

DolphinGemma: g’AI di Google che decifra il linguaggio dei delfini

Google lancia DolphinGemma, un'Ai rivoluzionaria capace di decifrare il linguaggio dei delfini, aprendo nuove prospettive…

3 giorni ago

OpenAI vuole aprire un social: la sfida di Sam Altman ad Elon Musk

OpenAI vuole costruire un social network simile a X. Sam Altman mira a fondere intelligenza…

3 giorni ago

Spoofing, cos’è il nuovo attacco hacker

Dalle email ai call center fasulli, cresce l’uso dello spoofing per truffare utenti e aziende.…

5 giorni ago

HP guida la trasformazione del futuro: AI e personalizzazione per il nuovo paradigma tecnologico

HP ridisegna il futuro del lavoro con l’AI: nuove soluzioni personalizzate migliorano la relazione con…

1 settimana ago

Zyxel Networks: la nuova serie USG FLEX H unifica cloud e on-premise

La nuova serie Zyxel USG FLEX H ridefinisce la strategia di sicurezza per PMI e…

1 settimana ago

Digitalic © MMedia Srl

Via Italia 50, 20900 Monza (MB) - C.F. e Partita IVA: 03339380135

Reg. Trib. Milano n. 409 del 21/7/2011 - ROC n. 21424 del 3/8/2011