Acesse a sua conta getAbstract para obter o resumo!

Gérez les biais de l’IA au lieu d’essayer de les éliminer

Acesse a sua conta getAbstract para obter o resumo!

Gérez les biais de l’IA au lieu d’essayer de les éliminer

Pour gérer les biais intégrés dans les données d’IA, les entreprises peuvent adopter une approche en trois étapes.

MIT Sloan Management Review,

5 min. de leitura
3 Ideias Fundamentais
Áudio & Texto

Sobre o que é?

Vous ne pouvez pas éliminer les biais dans les systèmes d’IA. Apprenez plutôt à la gérer.

Classement éditorial

8

Caractéristiques

  • Approche scientifique
  • Pratique
  • Vu de l'intérieur

Commentaires

Les entreprises se tournent de plus en plus vers les systèmes d’IA pour automatiser leurs processus, l’analyse des données et les interactions avec les employés et les clients. De ce fait, l’équité est devenue un problème épineux. En effet, les systèmes d’IA reflètent et perpétuent intrinsèquement les biais omniprésents dans les ensembles de données – un défaut qui n’a pas de solution mathématique. De manière succincte et concrète, Sian Townson, experte en gouvernance des risques liés à l’IA, recommande une approche en trois phases pour gérer les biais insurmontables des systèmes d’IA.

Résumé

Les systèmes d’IA perpétuent inévitablement les biais.

Les systèmes d’intelligence artificielle (IA) font des généralisations à partir des données existantes et, comme les données historiques sont biaisées, l’IA répercutera et perpétuera ces biais. Les biais liés à l’IA s’expliquent en partie par la disponibilité généralement limitée de données pour les groupes minoritaires. Les résultats de l’IA seront donc moins précis pour les membres de ces groupes. Cela pose des problèmes en ce qui concerne les algorithmes utilisés pour les traitements médicaux, les décisions d’octroi de crédit, la détection des fraudes, le marketing et le contenu textuel.

Aucune méthode ne peut empêcher l’IA de perpétuer les biais des données historiques. Cela est mathématiquement impossible. L’IA excelle dans la découverte de modèles, et les biais sont trop profondément...

À propos de l’auteur

Sian Townson est spécialiste en matière de risques liés à l’IA et de cadres de gouvernance. Elle est titulaire d’un doctorat en modélisation mathématique de l’université d’Oxford. Elle travaille actuellement en tant qu’associée pour le cabinet de conseil mondial Oliver Wyman.