GlossaireIntermédiaireIA générative
Biais algorithmique
Définition
Un biais algorithmique est une tendance d’un système à produire des résultats déséquilibrés, notamment envers certaines personnes ou situations, du fait de ses données ou de sa conception.
Dit autrement
C’est une balance mal réglée : elle peut pencher régulièrement dans le même sens, même sans intention de favoriser quelqu’un.
Un exemple
Vous demandez des portraits de métiers pour une activité fictive. Les propositions associent systématiquement certains rôles à un même profil, ce qui mérite une correction.
Un biais algorithmique est un déséquilibre qui se retrouve dans les résultats d’un système. Il peut venir des exemples utilisés, des choix de conception ou de la façon dont l’outil est employé.
Comment ça marche
Un système apprend et fonctionne dans un cadre construit par des personnes. Si des exemples représentent surtout certains profils ou certaines façons de parler, les résultats peuvent refléter ce déséquilibre. Le choix de ce qui compte comme une bonne réponse influence aussi le comportement du système.
Une donnée d’entraînement n’est donc pas neutre par sa seule présence dans un ensemble volumineux. La manière de collecter, classer et évaluer les informations compte. Un système peut produire des formulations apparemment polies tout en laissant certains groupes de côté. Observer seulement le ton ne suffit pas à repérer les situations mal représentées ou les critères défavorables.
Pourquoi c’est important pour vous
Une aide à la rédaction peut proposer des exemples qui enferment les personnes dans des rôles habituels. Un outil de classement peut défavoriser des situations moins courantes. Le problème devient particulièrement sensible quand le résultat influence l’accès à une possibilité ou la manière dont une personne est jugée.
Pour une activité pédagogique, examinez les profils présents dans les textes et les images. Demandez des variantes, puis contrôlez que la diversité ne repose pas sur des clichés ajoutés mécaniquement. Pour une décision concernant des personnes, ne considérez pas la sortie automatique comme un avis impartial. La supervision humaine doit permettre de discuter les critères, corriger un résultat et refuser son usage. Un simple regard rapide sur une liste finale ne révèle pas nécessairement la source du déséquilibre.
À ne pas confondre avec une hallucination
Une hallucination est une information inventée ou incorrecte présentée comme établie. Un biais désigne une tendance dans les résultats. Une réponse peut être factuellement exacte sur chaque exemple retenu tout en offrant une représentation déséquilibrée de l’ensemble.
Une erreur isolée ne permet pas toujours de conclure à un biais systématique. Pour examiner le problème, comparez des situations pertinentes, notez ce qui varie et gardez les critères d’évaluation. Si une différence semble injustifiée, cherchez son origine au lieu de la masquer par une reformulation plus aimable. Le contrôle porte sur le traitement des situations, pas seulement sur les mots employés.