Anche l’intelligenza artificiale discrimina
Gli algoritmi discriminano. Le macchine imparano dagli umani e, durante l’apprendimento, assorbono anche i pregiudizi inconsci. Non solo. L’intelligenza artificiale agisce seguendo processi basati su regole fisse, etichettate precedentemente come valide (le «gold truth»), che non tengono conto delle diversità e che, anzi, le escludono.
Per questi motivi il collettivo Foxglove ha fatto causa più volte al governo britannico per l’uso discriminatorio degli algoritmi utilizzati dagli uffici pubblici in diverse occasioni, tra queste ad esempio la gestione degli esami di maturità o dell’assegnazione dei visti.
In particolare, nel 2020 Downing Street ha sospeso gli esami scolastici fisici a causa del Covid-19, attribuendo a un tool ideato dall’agenzia intergovernativa Ofqual il compito di valutare gli studenti al termine del percorso di studi di istruzione secondaria. La formula utilizzata dall’applicativo ha però involontariamente penalizzato migliaia di giovani, assegnando loro voti inferiori rispetto alle proiezioni degli insegnanti e, conseguentemente, ostacolando la loro immatricolazione all’università. Dati alla mano, l’algoritmo era più clemente con gli iscritti alle scuole private che con quelli delle pubbliche. A causa delle pressioni degli studenti, tra cui un assistito di Foxglove, il governo britannico ha poi sospeso l’utilizzo dello strumento.
L’altra causa vinta dal collettivo riguarda l’assegnazione dei visti. Ad agosto 2020, il governo UK ha dismesso l’applicativo “Streaming Tool” poiché classificava le richieste sulla base di una serie di fattori discriminatori, tra cui la nazionalità del richiedente, privilegiando i cittadini di alcuni Paesi rispetto e danneggiandone altri.
La battaglia più recente di Foxglove riguarda l’utilizzo tra Boris Johnson e alcuni funzionari di applicazioni di messaggistica istantanea per comunicazioni riguardanti il loro mandato. L’uso di questi strumenti, che consentono la cancellazione degli scambi, è contrario alla trasparenza imposta dalla legge.
Continua a leggere l’articolo scaricando gratis la tua copia di MAG
