Les données décident de tout

Cette leçon est peut-être la plus importante du module. Une IA ne peut pas être meilleure que les exemples qu'elle a reçus. Si ces exemples sont faux, incomplets ou déséquilibrés, l'IA le sera aussi. Et quand les Africains, leurs visages ou leurs langues manquent dans ces exemples, ce sont eux qui paient les erreurs. Dans cette leçon, tu vas comprendre le lien entre données et qualité. Tu sauras ce qu'est un biais, et tu verras pourquoi l'Afrique est concernée au premier chef. On s'appuiera sur deux cas réels, étudiés et publiés.

Les informaticiens ont une expression en anglais : « garbage in, garbage out ». Mot à mot, ordures à l'entrée, ordures à la sortie. En français, on peut dire : ce qui entre détermine ce qui sort. Si les données sont incomplètes, anciennes ou fausses, les réponses seront faussées. Prends ton cahier de ventes : s'il oublie les jours de marché, ta prévision sera fausse, même avec le meilleur logiciel du monde. C'est la même chose pour les grandes IA. Quand elles se trompent, l'erreur vient souvent de leurs données, pas de leurs calculs. Améliorer une IA, c'est donc très souvent améliorer ses données.

Un biais, c'est une erreur qui touche plus souvent un groupe de personnes qu'un autre. Il apparaît souvent quand ce groupe manque dans les données. En 2018, une étude appelée Gender Shades a testé trois logiciels commerciaux d'analyse de visage. Ils devinaient si une personne sur une photo était un homme ou une femme. Les chercheuses ont mesuré jusqu'à 34,7 % d'erreurs pour les femmes à peau foncée, contre 0,8 % au plus pour les hommes à peau claire. Ce n'était pas une volonté de nuire. Selon elles, la cause la plus probable était des données d'entraînement et de test mal équilibrées.

Cette étude est signée par deux chercheuses à connaître. Joy Buolamwini, chercheuse d'origine ghanéenne, travaillait alors dans une université américaine. Timnit Gebru est née à Addis-Abeba, en Éthiopie. Leur travail a eu un grand retentissement. Il a poussé de grandes entreprises à revoir leurs systèmes de reconnaissance faciale. Il montre aussi une chose essentielle : il faut des personnes d'origines variées parmi celles qui construisent et testent l'IA, sinon certains problèmes passent inaperçus. Les Africains ne doivent pas seulement utiliser l'IA. Ils doivent aussi la construire, la tester et la contrôler.

Le biais peut aussi venir de l'histoire. Imagine une IA de tri de CV, entraînée sur les recrutements passés d'une entreprise. Si cette entreprise a surtout recruté des hommes, l'IA risque d'apprendre que le profil idéal est un homme. Elle reproduit alors les inégalités d'hier, en plus rapide et à plus grande échelle. Ce n'est pas un cas d'école. En 2018, l'agence Reuters a révélé qu'Amazon avait abandonné un outil expérimental de tri de CV qui défavorisait les candidatures féminines. L'outil avait appris sur les CV reçus pendant dix ans, venus surtout d'hommes. C'est exactement le sujet de la simulation de ce module.

Autre piège : apprendre par cœur n'est pas comprendre. Tu connais sûrement un élève qui récite les corrigés des annales sans les comprendre. Il réussit les exercices déjà vus, et il échoue dès que le sujet de l'examen change un peu. Une IA peut faire la même chose. Elle obtient de très bons scores sur ses exemples d'entraînement, puis échoue dans la vraie vie. Ce problème s'appelle le surapprentissage. C'est pourquoi les ingénieurs testent toujours une IA sur des exemples qu'elle n'a jamais vus. Quand on te vante un outil, demande sur quelles données il a été testé, et si elles ressemblent à ta réalité.

Parlons des langues. Internet est écrit surtout en anglais et dans quelques grandes langues. Il existe très peu de textes en ligne en wolof, en lingala, en bambara ou en créole haïtien, et encore moins d'enregistrements bien transcrits. Les réponses et les traductions dans ces langues sont donc plus fragiles. Mais ce n'est pas une fatalité. Chaque texte correct publié dans ces langues, chaque émission de radio bien transcrite, enrichit les données de demain. Des communautés de chercheurs africains, comme Masakhane, rassemblent des données et construisent des outils pour les langues africaines. Enseignants, journalistes et étudiants peuvent aussi y contribuer.

Faisons le point. Ce qui entre détermine ce qui sort : une IA vaut ce que valent ses données. Un groupe absent ou mal représenté dans les données subit plus d'erreurs, et c'est ce qu'on appelle un biais. Une IA peut aussi reproduire les inégalités du passé, comme l'outil de tri de CV d'Amazon. Et on teste toujours une IA sur des cas nouveaux, proches de la réalité, pour éviter le surapprentissage. Retiens ce réflexe : devant une IA, demande-toi d'où viennent ses exemples, et qui en est absent. Dans la dernière leçon du module, on ouvre la boîte des réseaux de neurones, toujours sans mathématiques.