Timnit Gebru et Margarett Mitchell chercheuses sur l’éthique des IAs pour google ont été renvoyées respectivement en décembre 2020 et février 2021. Les raisons des licenciements ne sont pas tout à fait certaines mais ils font suite à un article sur l’éthique des IA de google sur le langage et qui met en garde sur les dangers qui peuvent être liés à une utilisation de ces IAs, pas encore au point.
Malheureusement, cette information n’a pas eu beaucoup de retentissement médiatique. Je vous propose de corriger le tir en écoutant Timnit Gebru dans cette conférence TED.
Elle y présente des utilisations controversées des IAs, par exemple sur la reconnaissance de visages, et pose deux questions:
– est-il souhaitable d’avoir une base de données des visages? (en 2018, au moment de cette vidéo, il semblerait que le visage d’1 américain sur 2 soit dans une base de visages).
– les IAs sont-elles assez robustes pour faire de la surveillance? Les biais, vous le verrez (je ne veux pas tout divulgâcher!) sont multiples et aux conséquences problématiques.
Les IAs propagent et amplifient des bais sociaux indésirables. D’après Timnit Gebru, les solutions sont techniques mais devront aussi passer par des audits et des régulations. Elle fait l’analogie avec l’industrie des automobiles et les réglementations qui ont été mises en place très tardivement pour inclure les femmes dans les crash-tests.
L’idée n’est pas de diaboliser les IAs mais:
1) D’en avoir une utilisation raisonnable, à la mesure de ce qu’elles sont capables de faire.
2) De choisir une orientation de la recherche éthique et sécurisée (quitte à ne pas maximiser les profits 😉 )
Pour aller plus loin:
- En savoir plus sur le contenu de l’article qui aurait causé le licenciement : https://www.technologyreview.com/2020/12/04/1013294/google-ai-ethics-research-paper-forced-out-timnit-gebru/
- Science4All décryptant l’annonce du licenciement de Timnit Gebru: https://www.youtube.com/watch?v=Ddr-BZ9W180 et https://www.youtube.com/watch?v=HbFadtOxs4k et
Crédits image: Paper Boat Creative / Getty Images