AI di genere

L’Intelligenza artificiale è la sfida del prossimo futuro. C’è una bella confusione in giro, se ne sa poco e se ne parla molto.

Bisogna fare molta attenzione: noi del W20 ce ne occupiamo da qualche anno suggerendo nei nostri Communiquè – i documenti finali di ogni presidenza del W20 – di adottare misure urgenti per promuovere la pari partecipazione delle donne nella progettazione e nello sviluppo di tecnologie digitali tenendo in debita considerazione l’etica e prevenendo l’amplificazione di discriminazioni dovute a set di dati, modelli e algoritmi distorti nell’intelligenza artificiale.

Vi racconto una storia. La disparità di genere non riguarda solo gli esseri umani ma anche le intelligenze artificiali programmate dagli esseri umani stessi. Qualche anno fa Amazon provò a dare vita a un motore di reclutamento. A partire dal 2014 il team dell’azienda di Seattle specializzato nell’apprendimento automatico mise a punto dei software per automatizzare la ricerca dei migliori talenti. Il problema è che i software in questione penalizzavano le donne, soprattutto per quanto riguarda lavori per sviluppatori di software e altri ruoli tecnici.

In sostanza, era accaduto che il gruppo aveva creato 500 software, incentrati su specifici incarichi e località, e li aveva addestrati a riconoscere circa 50mila termini che comparivano nei curricula di candidati precedenti. E qui iniziava il problema perché la maggior parte dei CV utilizzati erano CV di uomini. E così il sistema creato dagli specialisti di apprendimento automatico aveva insegnato a sé stesso che è meglio assumere candidati uomini.

Si dava poco peso a competenze comuni alla maggior parte dei candidati (come la capacità di scrivere diversi codici informatici), i software prediligevano profili in cui comparivano verbi utilizzati più spesso nei curriculum di ingegneri uomini (ad esempio, executed, «eseguito», e captured, «acquisito»); al contrario, curricula che includevano espressioni ritenute proprie di donne erano considerati meno interessanti, al pari di quelli di candidate che si erano laureate in università femminili.

E allora cosa ci suggerisce questo episodio a dir poco eclatante? Di fare attenzione (e molta) a chi programma. Il sistema androcentrico ha già fatto abbastanza danni. Penso al mondo del lavoro: fondato su una misura del tempo maschile impossibile per qualsiasi donna voglia svolgere i compiti con cura. Quindi un privilegio maschile diventa merito.

E noi donne dobbiamo stare sempre in trincea cercando di prevenire i danni ove possibile.

©Futuro Europa® Riproduzione autorizzata citando la fonte. Le immagini utilizzate sono tratte da Internet e valutate di pubblico dominio: per segnalarne l’eventuale uso improprio scrivere alla Redazione