IA et automatisation · Comprendre pour progresser

Biais d’un système d’IA

Tendance d’un système à produire des résultats systématiquement déséquilibrés, notamment selon les données utilisées, les choix de conception et le contexte d’usage.

Une balance penche sous de nombreux jetons ronds, face à quelques cubes examinés à la loupe.
Cette balance illustre un déséquilibre : des exemples surreprésentés peuvent orienter les résultats d’un système d’IA.

Un exemple concret

Un classement de candidatures peut favoriser certains parcours s’ils sont surreprésentés dans les exemples ayant servi à concevoir le système.

  1. Données et choix
  2. Résultats observés
  3. Évaluation des écarts

Le point à retenir

Une moyenne de performance satisfaisante peut masquer des erreurs plus fréquentes pour certains groupes. Comparez les cas et gardez un contrôle humain.

Pour aller plus loin

NIST · identifier et gérer les biais (nouvel onglet)

Définition et exemple rédigés pour la communauté SCN. Mise à jour : 12 octobre 2026.