Il caso Gebru e la non neutralità dell’algoritmo
Il fatto del giorno è il caso Gebru, relativo alle dimissioni che la co-direttrice del Team di Google per l’etica nell’intelligenza artificiale ha minacciato, e che sono state non solo accolte, ma pure forzate da Google (che le ha chiuso addirittura l’account di posta elettronica mentre lei era in congedo).
Il motivo del contendere è un articolo di cui è autrice, insieme a un accademico e ad altri 4 ricercatori di Google. Ma cosa è successo per far si che 1400 mebri dello staff di Google e 1900 personalità esterne protestassero fortemente, a sostegno della ricercatrice?
Gebru è leader nel mondo della diversity e autrice di un importantissimo saggio che ha mostrato come i software di riconoscimento facciale siano meno accurati rispetto alle persone di colore, determinando discriminazioni razziali a danno alle minoranze.
Lo studio per cui oggi è estromessa da Google (secondo quanto suggerito dalla MIT Technology Review che l’ha letto, avendolo ottenuto dall’unico accademico del team) è relativo alla manipolazione che l’intelligenza artificiale può fare attraverso l’elaborazione del linguaggio.
Senza entrare nel tecnicismo, Gebru ci sta dicendo di stare molto attenti: perché dietro all’intelligenza artificiale ci sono le persone, con i loro pregiudizi, e davanti all’AI ci sono altre persone, con le loro fragilità.
Far finta che non sia così significa mistificare la realtà, illudendosi di una presunta neutralità dell’algoritmo, che – ce lo dice chi se ne intende – non corrisponde al vero.
Anche noi stiamo facendo la nostra parte. Ce ne stiamo occupando da tempo grazie a un progetto finanziato dal Piano Strategico del Dipartimento di Scienze Giuridiche dell’Università di Udine, dedicato a HR analytics e divieti di discriminazione nell’accesso al lavoro: le nuove frontiere della protezione della vita privata del lavoratore di fronte agli algoritmi di selezione del personale, e anche con un PRIN – Progetto di ricerca di interesse nazionale, dedicato a Dis/Connection: Labour and Rights in the Internet Revolution.
