L'intelligenza artificiale soffre di una grossa crisi di diversità

Lo studio stesso si chiama "Disciminating Systems" ed è disponibile per la lettura nella sua versione originale in inglese a questo link. Secondo i risultati ottenuti, sono state segnalate diverse lacune o carenze nel campo dell'intelligenza artificiale. Vediamo quali:

Crisi della diversità di genere e razza

"La disuguaglianza nell'industria dell'IA è estrema". L'80% di chi "addestra" l'AI sono uomini, e solo il 18% sono donne. All'interno del dipartimento di ricerca sull'intelligenza artificiale di Facebook, solo il 15% sono donne, mentre la percentuale raggiunge il 10% all'interno dello stesso settore per quanto riguarda Google. Parlando invece di colore della pelle, la situazione è ancora peggiore. Ad esempio: solo il 2,5% di chi lavora in Google non sono bianchi, mentre in Facebook e Microsoft il dato raggiunge il 4%. Nonostante si sia lavorato per decenni per invertire questo tipo di disuguaglianza, la situazione è ancora oggi allarmante.

Naturalmente, la relazione formula una serie di suggerimenti per migliorare lo stato attuale. Ad esempio: le imprese potrebbero migliorare la loro trasparenza pubblicando vari rapporti sul proprio lavoro e remunerazione, suddivisa per razza e sesso.

• Le due facce dell'Intelligenza Artificiale: quale sarà lo scenario finale?

Nonostante l'esposizione di questi suggerimenti, l'approccio rimane particolarmente astratto nonostante offra conseguenze molto chiare nella vita e nell'uso quotidiano delle varie tecnologie. Ad esempio, il dominio del maschio bianco può influenzare i risultati del riconoscimento facciale, ad esempio i software per indovinare l'orientamento sessuale delle persone, un esperimento condotto dai ricercatori della Stanford University.

Molti lavoratori dell'industria tecnologica si sono alzati per segnalare gravi problemi nello sviluppo dell'AI, spingendo le aziende in cui lavorano a sospendere o rivedere l'uso di strumenti che potrebbero danneggiare gruppi vulnerabili o minoritari. I dipendenti di Amazon hanno interrogato i manager sull'uso del riconoscimento facciale da parte dell'azienda e, più recentemente, i dipendenti Google si sono schierati contro un comitato di supervisione etica dell'AI che comprendeva il presidente della Heritage Foundation, un gruppo noto per le attività di lobbying contro i diritti delle LGBT+. In risposta, la società ha sciolto completamente il consiglio di amministrazione.

• Google cede alla pressione e rimuove un'applicazione anti LGTB+

Gli autori dello studio concludono così: "La crisi della diversità nel campo dell'AI è ben documentata e di portata molto ampia", e continuano: "I sintomi possono essere visti nella disparità dei posti di lavoro nell'industria e nel mondo accademico, nella disuguaglianza delle offerte di lavoro e delle promozioni, nelle tecnologie dell'intelligenza artificiale che riflettono e diffondono stereotipi pregiudiziari e nella rinascita del determinismo biologico nei sistemi automatizzati".

Qual è la vostra opinione al riguardo? Qualcuno di voi ha vissuto o ha assistito ad un caso di discriminazione da parte di un sistema basato sull'intelligenza artificiale?

Fonte: The Verge