Il problema della ricerca per immagini di Google

Alla Computer Aid partecipiamo a eventi di tutti gli aspetti del mondo IT e quest'anno, in particolare, c'è stata un'attenzione particolare alla parità di genere e alla diversificazione dei relatori che vengono prenotati. Questo è anche arrivato al culmine a Summit ICT del settore pubblico Dove Kit Collingwood, vicedirettore di Universal Credit, Department for Work and Pensions, ha sollevato la questione che era l'unica donna invitata nel panel e ha affermato con fermezza che non avrebbe più partecipato a un evento in cui fosse l'unica donna nel panel.

Proprio quella mattina, mentre facevo networking con gli altri partecipanti, mi è stato detto che non c’era bisogno di tenere la discussione sulle “Donne nell’informatica” prevista più tardi nella giornata, poiché “Non è una novità, le donne lavorano nel settore tecnologico da una vita”. Evidentemente non aveva letto la statistica riportata nel titolo dell’intervento, secondo cui solo il 17% dei dipendenti nel settore tecnologico del Regno Unito è costituito da donne.

Questo era molto presente nella mia mente quando questa mattina un collega mi ha mostrato cosa succede quando cerchi ‘Computer for Boys’ su Google Immagini rispetto a ‘Computer for Girls’.’

È facile vedere la differenza. I risultati della ricerca ‘Computer per ragazzi’ mostrano per lo più immagini di repertorio standard di bambini che usano computer, felici e con una relativa buona diversità. Tuttavia, quando si cerca ‘Computer per ragazze’, non solo non ci sono bambini in vista, ma siamo sopraffatti da un mare di rosa. Ancora più inquietante è una diapositiva di una presentazione che dice ‘I computer non sono per le ragazze’.

Non è la prima volta che l'algoritmo di ricerca di Google ha un problema con il modo in cui identifica le immagini, di nuovo nel 2015 Jacky Alciné ha segnalato che Google Foto stava classificando i suoi amici neri come “gorilla”.”

Ma come fa un motore di ricerca a fare queste scelte? Per spiegare meglio ho incluso questo video:

Dato che i risultati della ricerca si basano sui Algoritmo PageRank, ciò significa che affinché queste immagini vengano visualizzate, le persone si collegano più frequentemente a questi computer rosa stereotipati piuttosto che a pagine web positive come Stemettes, Code First: Ragazze, Ragazze che Codificano e molte altre meravigliose organizzazioni che promuovono l'uguaglianza nel settore tecnologico. Parte di ciò potrebbe essere che questi siti web non hanno molte immagini disponibili, ma più probabilmente è legato agli stereotipi di genere radicati che vediamo nella società odierna.

Abbiamo già affrontato il tema dei pregiudizi di genere nel nostro lavoro con l’Università dello Zimbabwe, dove è emerso che, nonostante l’accesso fosse paritario, la percentuale di studenti rispetto alle studentesse che utilizzavano i laboratori informatici dell’università era di 87% maschi contro 13% femmine (nonostante un numero di iscritti quasi uguale, pari a 51% donne rispetto a 49% uomini). Si riteneva che ciò fosse dovuto a una disuguaglianza ‘socializzata’, per cui le studentesse sentivano di non avere lo stesso diritto di accesso ai laboratori rispetto agli studenti maschi. Abbiamo affrontato questa questione sociale creando laboratori riservati alle donne, uno spazio progettato per le 51% donne iscritte all’università.

Ciò ha permesso alle studentesse di acquisire competenze di base nelle TIC, che avrebbero offerto loro migliori opportunità di impiego in futuro e più opzioni per ulteriori studi. Riconoscendo il problema sociale e integrandolo nella nostra soluzione, abbiamo innescato un cambiamento e sfidato la visione che le TIC siano un appannaggio degli studenti maschi nel sistema di istruzione superiore dello Zimbabwe.

Quindi, come cambiamo l'algoritmo e lo facciamo funzionare in modo migliore e più accurato? Ad esempio, quando cerco sui siti di stock di immagini non abbiamo lo stesso problema:

Beh

TWEET GOOGLE