Les algorithmes sont utilisés partout dans la société moderne en ligne. Bien qu’ils semblent neutres et réellement efficaces, ils peuvent être biaisés.
Que sont les algorithmes ?
Un algorithme est un ensemble d’instructions qu’un ordinateur suit. L’algorithme de recherche de Google en est un exemple : vous tapez un mot dans la barre de recherche, et Google trouve les résultats les plus pertinents par rapport à ce que vous avez écrit. Facebook utilise des algorithmes pour choisir les publications à afficher dans votre flux et dans quel ordre.
Quel est le problème des algorithmes ?
Les algorithmes sont généralement bons, car ils constituent un moyen très efficace d’obtenir un résultat précis. Une recherche Google standard prend moins d’une seconde. Cependant, ils ne sont pas parfaits. Ils semblent neutres car ils suivent un ensemble d’instructions, mais en fait, ils peuvent être très partiaux. Biaisé signifie avoir une préférence pour quelqu’un ou un groupe de personnes par rapport à un autre.
Comment les algorithmes peuvent-ils être biaisés ?
Par exemple, certaines écoles aux États-Unis utilisent des algorithmes pour évaluer les performances d’un enseignant. Si les élèves d’un professeur obtiennent de très mauvaises notes à leurs examens, ce dernier est renvoyé. Le livre Weapons of Math Destruction donne l’exemple de Sarah Wysocki. Selon tous les anciens élèves de Sarah, elle est un bon professeur. Une année, Sarah reçoit une classe qui a eu des notes très élevées l’année précédente, potentiellement en trichant. Ces étudiants obtiennent alors des notes beaucoup plus basses l’année suivante, et Sarah est renvoyée parce que l’algorithme lui donne une note très basse. C’est injuste car elle est un bon professeur.
Les algorithmes doivent-ils être utilisés pour juger un enseignant ?
En général, il ne suffit pas de juger un enseignant sur les résultats de quelques élèves au cours d’une année donnée pour déterminer s’il est bon. De nombreux facteurs peuvent affecter les performances d’un élève, comme sa situation familiale. En outre, le fait de juger les enseignants sur la base des notes les incite à aider leurs élèves à tricher pour obtenir de meilleures notes. Les enseignants qui obtiennent alors une classe aux notes artificiellement élevées doivent s’atteler à la tâche impossible de faire correspondre les fausses notes.
Quel est le problème majeur des algorithmes ?
Le problème est que les algorithmes semblent neutres. Cependant, de nombreux algorithmes peuvent reproduire les préjugés humains. C’est d’autant plus dangereux que les algorithmes sont incapables de se corriger eux-mêmes. Les personnes à l’origine de l’algorithme de l’enseignant peuvent simplement dire que les mauvais enseignants sont partis. Pourtant, en fait, les enseignants qui partent pourraient être bons, comme dans le cas de Sarah. Ce qui est particulièrement mauvais, c’est que le processus n’est pas ouvert : Sarah n’a pas pu faire appel de la décision. Les algorithmes peuvent avoir des résultats injustes et renforcer les inégalités.
Comment pouvons-nous améliorer les algorithmes ?
La première étape pour améliorer les algorithmes serait de savoir comment ils fonctionnent ! Nous ne savons même pas exactement comment fonctionne l’algorithme de recherche de Google, ou celui de Facebook. Ensuite, nous devrions examiner les résultats de plus près : par exemple, un algorithme d’enseignement renvoie-t-il les bons professeurs ? Dans l’ensemble, les algorithmes sont vraiment utiles, mais nous devons prêter davantage attention à leurs biais.
