Éthique des données et intelligence artificielle

Expliquer avec un exemple ce qu'est un biais algorithmique et pourquoi une intelligence artificielle entraînée avec des données peu variées peut traiter moins bien certains groupes de personnes.

La figure résume la façon dont un système d'intelligence artificielle apprend : à partir d'exemples.

Les données d'entraînement de l'exemple contiennent beaucoup de cas d'un type et très peu de l'autre. Expliquer quel problème apparaîtra dans la décision marquée par ?, d'où vient réellement ce problème et comment il serait corrigé.

Une entreprise utilise l'intelligence artificielle pour trier des CV et le système rejette davantage de candidatures féminines parce que, dans le passé, l'entreprise a surtout embauché des hommes. Expliquer d'où vient ce biais, pourquoi « c'est la machine qui décide » ne dégage pas l'entreprise de sa responsabilité et quelle mesure corrigerait le système.

Expliquer ce qu'est un agent conversationnel (chatbot), pourquoi il peut affirmer avec une totale assurance des données inventées (les « hallucinations ») et ce qu'il faut toujours faire lorsqu'il vous donne une information importante : une date, un chiffre ou une source.

Si une voiture autonome renverse un piéton, de qui est la responsabilité ? Exposer les possibilités (propriétaire, constructeur, programmeur, responsabilité partagée) et défendre une première position avec un argument.

Le classique dilemme du tramway, appliqué à la voiture autonome : si l'accident est inévitable, comment la voiture décide-t-elle qui elle met en danger ? Analyser qui devrait prendre cette décision (l'ingénieur, la loi, un comité de citoyens) et défendre une position argumentée.

Expliquer quelles données l'algorithme de recommandation d'une plateforme de vidéos utilise pour choisir la suivante (ce que vous regardez, combien de temps, ce que vous passez) et pourquoi il tend à vous conduire vers des contenus de plus en plus intenses ou extrêmes.

Expliquer ce que signifie qu'une intelligence artificielle fonctionne comme une « boîte noire » et pourquoi il est inquiétant que même ses créateurs ne sachent pas expliquer une décision précise, par exemple refuser une bourse ou un prêt.

Une mairie propose d'installer des caméras de reconnaissance faciale « pour assurer la sécurité ». Construire un argumentaire équilibré : deux bénéfices possibles, deux risques pour la vie privée et une condition que vous jugez indispensable avant d'approuver la mesure.

Les systèmes d'intelligence artificielle apprennent avec des « données d'entraînement ». Expliquer pourquoi la façon dont ces données ont été obtenues est importante et évaluer le cas de millions de photos de personnes utilisées sans leur autorisation pour entraîner un système de reconnaissance faciale.

Les générateurs d'images par intelligence artificielle apprennent à partir d'œuvres d'artistes, souvent sans les rémunérer ni demander leur autorisation. Analyser le conflit entre innovation et droits d'auteur et évaluer les solutions proposées : licences d'entraînement, listes d'exclusion et étiquetage des œuvres générées.

Une intelligence artificielle compose une chanson en imitant le style d'un artiste. À qui appartient l'œuvre ? Analyser les positions (celle du programmeur, de l'utilisateur, de personne, de l'artiste imité), ce que l'humain apporte à l'art et défendre une solution raisonnable.

Expliquer ce qu'est l'obsolescence programmée et donner un exemple de choix de conception qui raccourcit la durée de vie d'un smartphone.

Un fabricant cesse de mettre à jour un modèle de smartphone au bout de deux ans alors que l'appareil fonctionne bien. Analyser quels intérêts se cachent derrière cette décision, quel impact environnemental elle génère sous forme de déchets électroniques et quelles alternatives le consommateur a pour prolonger la vie de l'appareil.

Votre smartphone fonctionne parfaitement mais « n'est plus à la mode ». Analyser comment se fabrique ce sentiment d'obsolescence perçue (campagnes publicitaires, mises à jour qui ralentissent, pression sociale) et quels outils le consommateur a pour ne pas entrer dans ce jeu.

Entraîner un grand modèle d'intelligence artificielle consomme autant d'électricité que des centaines de foyers en un an, et chaque requête consomme aussi de l'énergie. Expliquer à quelles questions de durabilité les entreprises devraient répondre et quels critères d'usage responsable vous pourriez appliquer.

Expliquer ce que l'on entend par souveraineté technologique et pourquoi il est préoccupant que quelques pays ou entreprises contrôlent les puces, les clouds et les grands modèles d'intelligence artificielle dont dépendent des millions de personnes.

Une grande partie du travail d'étiquetage des données pour entraîner les intelligences artificielles est sous-traitée dans des pays aux salaires très bas, y compris la vérification de contenus traumatisants. Analyser quelles injustices vous voyez dans cette chaîne mondiale et quelles conditions (salaire, soutien psychologique, transparence) vous exigeriez des entreprises qui y ont recours.

Certains experts ont demandé une pause dans le développement des intelligences artificielles les plus puissantes jusqu'à ce que des règles claires existent. Argumenter pour (principe de précaution) et contre (course internationale, usages bénéfiques retardés) et proposer une réglementation minimale qui vous semblerait raisonnable.

Un collège utilise l'intelligence artificielle pour corriger des rédactions. Analyser ses avantages (rapidité, critères uniformes, absence de fatigue) et ses risques (ne comprend pas l'ironie, pénalise les styles différents, erreurs sans recours), et définir quelle supervision humaine vous exigeriez avant d'accepter ses notes.

Une fausse vidéo d'une camarade « chantant » quelque chose de ridicule est fabriquée et tout le collège en rit. Analyser quels droits sont violés (droit à l'image, honneur), quelle est la responsabilité de celui qui l'a créée et de celui qui la transfère, et ce que doivent faire la victime et ceux qui la reçoivent.

Les assistants d'intelligence artificielle rédigent des textes complets en quelques secondes. Analyser quels usages sont légitimes dans vos études et lesquels vident l'apprentissage de son sens, et proposer une règle de classe sur l'usage de l'IA que vous jugez juste et applicable.

Évaluer la phrase « la technologie est neutre : tout dépend de l'usage qu'on en fait ». Utiliser les exemples du biais algorithmique et de l'obsolescence programmée pour la défendre ou la nuancer avec des arguments.

Concevoir un « feu tricolore éthique » pour l'usage de l'intelligence artificielle par les élèves : quels usages seraient au vert (apprendre, accessibilité, pratiquer les langues), à l'orange (traduire des devoirs entiers, générer des images de personnes réelles) et au rouge (usurper une identité, fabriquer des canulars, présenter comme sien un texte généré). Justifier chaque zone.