Activité vittascience - explications supplémentaires

Cette activité de VittaScience permet de commencer à comprendre un principe fondamental :

en programmation classique, on écrit un programme, en machine learning, on le trouve !

On trouve le programme à partir des exemples qu'on recence : les exemples jouent donc un rôle extremement important dans la qualité du programme qu'on obtiendra.

On peut observer avec les élèves que les biais dans les données des IA provoquent des IA biaisées et que cela a un impact concret dans certains cas :

1) Exemple de l'IA de google de reconnaissance d'images

Source : Société Radio Canada, juillet 2015 , lien

2) Dans le rectrutement, pour l'accès aux crédits, pour la justice

Les élèves peuvent retenir:

Les IA peuvent être biaisées

Elles cherchent des règles modélisant le lien entre entrées et sorties, lors de l’entraînement

Les IA reproduisent (et amplifient) les biais dans les données d’entraînement :

Déchets en entrée     -->    déchets en sortie