Apprentissage automatique et données

Apprendre à partir de données

Un programme classique suit des règles écrites par un humain. En apprentissage automatique (machine learning), on fait l'inverse : on fournit au programme beaucoup d'exemples, et il en déduit lui-même une règle.

Dans l'apprentissage supervisé, chaque exemple est accompagné de la bonne réponse (l'étiquette) : une photo et le mot « chat » ou « chien », par exemple. Le programme ajuste ses paramètres pour que ses réponses se rapprochent des étiquettes. Cette phase s'appelle l'entraînement.

Pour savoir si le modèle a vraiment appris, on le teste sur des exemples qu'il n'a jamais vus. On sépare donc les données en deux ensembles.

Pourquoi cette séparation ? Un modèle peut « apprendre par cœur » ses exemples sans comprendre la règle générale. Si on le testait sur les mêmes images, il aurait une note flatteuse mais trompeuse. C'est comme un élève qui connaît par cœur les corrigés d'un DS : le même DS ne prouve rien.

Les données sont le carburant de l'IA. Un service en ligne collecte des informations sur toi (vidéos regardées, durée de visionnage, recherches, localisation…) pour entraîner ses modèles. Ces données personnelles posent la question de la vie privée : qui les stocke, pendant combien de temps, pour quels usages ? En France, la CNIL veille au respect de ces règles.

Mesurer les performances d'un modèle

Taux de réussite et taux d'erreur

Sur un ensemble de test, on compare la réponse du modèle à la bonne réponse.

Par exemple, $450$ réponses correctes sur $500$ images donnent $\dfrac{450}{500} = 0{,}90$, soit $90\ \%$ de réussite et $10\ \%$ d'erreur.

Un seul chiffre ne suffit pas

Pour un test de dépistage, il y a deux façons de se tromper, qui n'ont pas la même gravité. On range les résultats dans une matrice de confusion (tableau de contingence).

Pourquoi deux indicateurs ? Un test qui répond toujours « positif » détecte tous les malades (sensibilité de $100\ \%$) mais ne vaut rien : sa spécificité est nulle. Il faut regarder les deux.

Un test performant, beaucoup de faux positifs

Une sensibilité et une spécificité élevées suffisent-elles pour que « test positif » veuille dire « probablement malade » ? Pas forcément, tout dépend de la fréquence de la maladie. On le montre avec un arbre pondéré et les probabilités conditionnelles.

L'explication : les personnes saines sont très nombreuses ($98\ \%$). Même avec un faible taux de faux positifs ($5\ \%$), elles fournissent plus de tests positifs ($0{,}049$) que les malades ($0{,}018$).

Apprendre, c'est minimiser une erreur

Séparer deux classes par une droite

Le modèle le plus simple pour classer des points est une droite. Le modèle apprend les coefficients de la droite $y = mx + p$ ; ensuite, un point $M(x_M ; y_M)$ est classé selon sa position :

• classe 1 si $y_M > m\,x_M + p$ (le point est au-dessus de la droite) ;

• classe 2 si $y_M < m\,x_M + p$ (au-dessous).

On compare donc l'ordonnée du point à celle du point de la droite de même abscisse. Déplace les curseurs pour voir comment la droite sépare le plan.

Comment le modèle trouve-t-il ses paramètres ?

On définit une fonction d'erreur $E(w)$ qui mesure l'écart entre les réponses du modèle et les étiquettes pour une valeur $w$ du paramètre. Apprendre revient à trouver $w$ qui rend $E(w)$ minimale.

La descente de gradient procède pas à pas. On part de $w_0$, puis on corrige :

où $\eta > 0$ est le taux d'apprentissage. Pourquoi cette formule ? Si $E'(w_k) > 0$, la fonction est croissante : pour diminuer l'erreur, on recule, donc on retranche. Si $E'(w_k) < 0$, on avance. On descend toujours la pente.

Les limites de l'IA : biais et énergie

Des biais hérités des données

Un modèle reproduit les régularités de ses données d'entraînement, y compris les injustices. Si l'on entraîne un outil de recrutement sur les embauches passées d'une entreprise qui recrutait surtout des hommes, il « apprend » que le profil masculin est le bon : c'est un biais algorithmique.

Pour le mesurer, on compare le taux de sélection de chaque groupe :

Puis on calcule le rapport des deux taux. Un rapport proche de $1$ traduit un traitement équilibré ; plus il s'en éloigne, plus le biais est important.

Pour limiter ces biais : rééquilibrer ou diversifier les données d'entraînement, retirer les variables sensibles, contrôler régulièrement les résultats par groupe, garder un humain dans la décision. Aucune mesure n'est parfaite : retirer le genre du dossier ne suffit pas si d'autres informations (loisirs, établissement, interruptions de carrière) y sont corrélées.

Un coût énergétique

Entraîner un grand modèle demande des milliers de processeurs pendant des semaines. L'énergie consommée se convertit en émissions de gaz à effet de serre grâce au facteur d'émission du mix électrique : les émissions valent $E \times f$, avec $E$ en $\text{kWh}$ et $f$ en $\text{g CO}_2\text{e}\cdot\text{kWh}^{-1}$.

Retour au début : un programme « apprend » en ajustant des paramètres pour minimiser une erreur sur des données d'entraînement ; on juge ses recommandations ou son dépistage sur des données de test, avec plusieurs indicateurs ; et on garde un regard critique sur les données (vie privée, biais) et sur le coût énergétique.

L'essentiel

• L'apprentissage supervisé ajuste les paramètres d'un modèle sur un ensemble d'entraînement ; on mesure ses performances sur un ensemble de test jamais vu.

• Taux de réussite $= \dfrac{\text{réponses correctes}}{\text{total}}$ ; sensibilité $= \dfrac{VP}{VP+FN}$ ; spécificité $= \dfrac{VN}{VN+FP}$.

• Quand la maladie est rare, un test performant peut donner beaucoup de faux positifs : on calcule $P_T(M)$ avec un arbre pondéré et la définition d'une probabilité conditionnelle.

• Apprendre revient à minimiser une erreur $E(w)$ : descente de gradient $w_{k+1} = w_k - \eta\,E'(w_k)$.

• Un modèle hérite des biais de ses données ; on les repère en comparant les taux de sélection ou d'erreur par groupe.

• Émissions $= E\ (\text{kWh}) \times$ facteur d'émission ; le mix électrique fait fortement varier le résultat.