Gérez les biais de l’IA au lieu d’essayer de les éliminer

Pour gérer les biais intégrés dans les données d’IA, les entreprises peuvent adopter une approche en trois étapes.

MIT Sloan Management Review, 2023

5 minutes de lecture

3 points à retenir

Audio et texte

Aperçu

Vous ne pouvez pas éliminer les biais dans les systèmes d’IA. Apprenez plutôt à la gérer.

1×

Connectez-vous pour écouter un résumé audio.

Classement éditorial

getAbstract synthétise des ouvrages* qui permettent aux utilisateurs de mieux comprendre le monde pour le rendre meilleur. Quel que soit le livre que nous sélectionnons pour notre bibliothèque, il doit se distinguer par l'un ou l'autre des deux critères suivants :

Enrichissant – Les enseignements que vous en tirerez orienteront et amélioreront vos décisions.

Utile – Les conseils pratiques qui sont dispensés vous aideront à améliorer la prise de décision.

Nous évaluons chaque contenu sur une échelle de 1 à 10 en fonction de ces deux qualités essentielles . La note attribuée vous permet de classer les titres de votre liste de lecture de Plaisant (5) à Excellent (10). Les livres qui obtiennent moins de 5 ne font pas l'objet d'une publication. Voici ce que signifie chaque note :

10 – Excellent. Un livre utile et/ou instructif qui, outre ses nombreuses qualités, fait office de classique du genre. Une référence.
9 – Superbe. Un livre utile et/ou instructif extrêmement bien écrit et structuré, qui présente de multiples caractéristiques positives et aucune lacune notable.
8 – Très bien. Un livre utile et/ou instructif qui présente de multiples caractéristiques positives mais quelques points faibles. L'ouvrage peut par exemple présenter les dernières découvertes dans un domaine spécialisé et être rédigé par un expert, mais pécher par son style d'écriture.
7 – Bien. Un livre utile et/ou instructif, qui combine deux ou plusieurs caractéristiques positives. Il peut par exemple contenir des idées novatrices, présentées de manière engageante.
6 – Appréciable. Un livre utile et/ou instructif, qui présente au moins un aspect engageant. Il peut, par exemple, être particulièrement bien structuré.
5 – Plaisant. Un livre utile et/ou instructif, même si le contenu pourrait être amélioré. Ce livre peut par exemple prodiguer des conseils utiles dans certains domaines, mais être répétitif et sans relief particulier.

*getAbstract synthétise bien plus que des livres. Nous recherchons tous types de contenus pouvant intéresser nos lecteurs : des livres, mais également des articles, des rapports, des vidéos et des podcasts. Nos classifications sont valables pour les livres, mais également pour les autres formats que nous proposons.

Caractéristiques

Approche scientifique
Pratique
Vu de l'intérieur

Si la notation vous indique le niveau qualitatif du livre en fonction de nos deux critères principaux, elle n'explique aucune caractéristique particulière. Nous nous appuyons donc sur 20 qualités qui définissent les traits essentiels de l'ouvrage :

Pratique – Vous obtiendrez des conseils que vous pourrez aisément mettre en pratique sur votre lieu de travail ou dans des situations quotidiennes.
Analytique – Vous comprendrez les mécanismes internes du sujet abordé.
Connaissance du contexte – Vous aurez accès à des connaissances contextuelles pouvant servir de base à l'action ou à l'analyse.
Audacieux – Vous découvrirez des arguments susceptibles de rompre avec les points de vue dominants.
Complet – Vous trouverez une étude exhaustive du sujet.
Exemples concrets – Vous obtiendrez des conseils pratiques illustrés par des récits d'applications concrètes ainsi que des anecdotes authentiques.
Polémique – Vous serez confronté à des idées faisant l'objet d'un débat animé.
Éloquent –Vous prendrez plaisir à découvrir un ouvrage rédigé ou composé de main de maître.
Captivant – Vous serez captivé par cet ouvrage du début à la fin.
Révélateur – Vous découvrirez des informations très surprenantes.
Niveau débutant – Cet ouvrage constitue un bon point de départ si vous avez peu ou aucune expérience/connaissance du domaine traité.
Niveau Expert – Vous obtiendrez des informations/recommandations spécialisées utiles dans votre domaine de spécialité.
Sujet d'actualité – Plongez au cœur d'un thème qui fait l'objet d'un vif débat.
Innovant – Découvrez des idées et des concepts innovants sur des tendances et des produits inédits.
Vu de l'intérieur – Vous aurez le privilège d'être initié par un spécialiste du domaine.
Stimulant – Vous aurez envie de mettre immédiatement en pratique les conseils prodigués.
Aperçu – Vous acquerrez une appréciation globale du sujet et de ses aspects principaux.
Approche scientifique – Vous aurez accès à des faits et des chiffres fondés sur la recherche scientifique.
Visionnaire – Vous aurez un aperçu de l'avenir et ce qu'il vous réserve.
Bien structuré – Vous trouverez ce contenu particulièrement bien structuré, ce qui facilite l'adhésion à ses idées ou leur mise en œuvre.

Commentaires

Les entreprises se tournent de plus en plus vers les systèmes d’IA pour automatiser leurs processus, l’analyse des données et les interactions avec les employés et les clients. De ce fait, l’équité est devenue un problème épineux. En effet, les systèmes d’IA reflètent et perpétuent intrinsèquement les biais omniprésents dans les ensembles de données – un défaut qui n’a pas de solution mathématique. De manière succincte et concrète, Sian Townson, experte en gouvernance des risques liés à l’IA, recommande une approche en trois phases pour gérer les biais insurmontables des systèmes d’IA.

Résumé

Les systèmes d’IA perpétuent inévitablement les biais.

Les systèmes d’intelligence artificielle (IA) font des généralisations à partir des données existantes et, comme les données historiques sont biaisées, l’IA répercutera et perpétuera ces biais. Les biais liés à l’IA s’expliquent en partie par la disponibilité généralement limitée de données pour les groupes minoritaires. Les résultats de l’IA seront donc moins précis pour les membres de ces groupes. Cela pose des problèmes en ce qui concerne les algorithmes utilisés pour les traitements médicaux, les décisions d’octroi de crédit, la détection des fraudes, le marketing et le contenu textuel.

Aucune méthode ne peut empêcher l’IA de perpétuer les biais des données historiques. Cela est mathématiquement impossible. L’IA excelle dans la découverte de modèles, et les biais sont trop profondément...

À propos de l’auteur

Sian Townson est spécialiste en matière de risques liés à l’IA et de cadres de gouvernance. Elle est titulaire d’un doctorat en modélisation mathématique de l’université d’Oxford. Elle travaille actuellement en tant qu’associée pour le cabinet de conseil mondial Oliver Wyman.