Article

Manage AI Bias Instead of Trying to Eliminate It

To remediate the bias built into AI data, companies can take a three-step approach.

Sian Townson

MIT Sloan Management Review, 2023

Read the article

Read, Listen, or Discuss

Amazon Kindle Discuss

1×

تسجيل الدخول للاستماع إلى ملخص الصوت.

Editorial Rating

في getAbstract، نقوم بتلخيص الكتب* التي تساعد الناس على فهم العالم وجعله أفضل. أي شيء نختاره لمكتبتنا يجب أن يتفوق في أحد هذين المعيارين الأساسيين:

تنويري – ستتعلم أشياء ستثري وتحسن قراراتك.

مفيد – ستحصل على نصائح عملية ستساعدك على التحسن في ما تفعله.

نقوم بتقييم كل محتوى على مقياس من 1-10 فيما يتعلق بهذين المعيارين الأساسيين. يساعدك تقييمنا في ترتيب العناوين في قائمة قراءتك من الجيد (5) إلى الرائع (10). الكتب التي نقيمها بأقل من 5 لن يتم تلخيصها. إليك ما تعنيه التقييمات:

10 – رائع. كتاب مفيد و/أو تنويري، بالإضافة إلى تلبية أعلى المعايير في جميع الجوانب ذات الصلة، يبرز حتى بين الأفضل. غالبًا ما يكون كلاسيكيًا فوريًا وضروريًا للجميع.
9 – ممتاز. كتاب مفيد و/أو تنويري يتميز بتوازن كبير، وله العديد من النقاط القوية ولا توجد عيوب تستحق الذكر.
8 – جيد جدًا. كتاب مفيد و/أو تنويري يحتوي على عدد كبير من الصفات البارزة دون التفوق في جميع الجوانب، مثل تقديم أحدث الاكتشافات في مجال موضوعي ويكتبه خبير مشهور ولكنه يفتقر قليلاً إلى الأسلوب.
7 – جيد. كتاب مفيد و/أو تنويري يجمع بين قوتين أو أكثر من النقاط القوية الملحوظة، مثل احتوائه على أفكار جديدة بشكل غير معتاد وتقديمها بطريقة جذابة.
6 – ملحوظ. كتاب مفيد و/أو تنويري يبرز في جانب واحد على الأقل، مثل كونه منظمًا بشكل جيد بشكل خاص.
5 – جيد. كتاب مفيد و/أو تنويري، على الرغم من عيوبه الواضحة. على سبيل المثال، قد يقدم نصائح جيدة في بعض المجالات بينما يكون متكررًا أو غير ملحوظ في أخرى.

*getAbstract يلخص أكثر بكثير من الكتب. نحن ننظر إلى كل نوع من المحتوى الذي قد يهم جمهورنا: الكتب، ولكن أيضًا المقالات، والتقارير، ومقاطع الفيديو، والبودكاست. ما نقوله هنا عن الكتب ينطبق على جميع الصيغ التي نغطيها.

getAbstract Rating

Scientific
Applicable
Insider's Take

بينما يخبرك التقييم بمدى جودة الكتاب وفقًا لمعيارين أساسيين لدينا، فإنه لا يقول شيئًا عن ميزاته المحددة. لذلك، نستخدم مجموعة من 20 صفة لتوصيف كل كتاب بناءً على نقاط قوته:

قابل للتطبيق – ستحصل على نصائح يمكن تطبيقها مباشرة في مكان العمل أو في المواقف اليومية.
تحليلي – ستفهم الآليات الداخلية للموضوع.
خلفية – ستحصل على معرفة سياقية كإطار للعمل أو التحليل المستنير.
جريء – ستجد حججًا قد تخالف الآراء السائدة.
شامل – ستجد كل جانب من جوانب الموضوع مغطى.
أمثلة ملموسة – ستحصل على نصائح عملية موضحة بأمثلة من تطبيقات واقعية أو حكايات.
جدلي – ستواجه آراء مثيرة للجدل بشدة.
بليغ – ستستمتع بنص مكتوب أو مقدم ببراعة.
جذاب – ستقرأ أو تشاهد هذا حتى النهاية.
مفتوح للعين – ستُعرض عليك رؤى مفاجئة للغاية.
للمبتدئين – ستجد هذا مقدمة جيدة إذا كنت متعلمًا بقليل من الخبرة أو المعرفة السابقة.
للخبراء – ستحصل على المعرفة/التعليمات المتقدمة التي تحتاجها كخبير.
موضوع ساخن – ستجد نفسك في وسط قضية مثيرة للجدل بشدة.
مبتكر – يمكنك توقع بعض الأفكار والرؤى الجديدة حقًا حول المنتجات أو الاتجاهات الجديدة.
رؤية من الداخل – ستحظى بامتياز التعلم من شخص يعرف موضوعه بشكل كامل.
ملهم – سترغب في تطبيق ما قرأته فورًا.
نظرة عامة – ستحصل على معالجة شاملة للموضوع، تذكر جميع جوانبه الرئيسية.
علمي – ستحصل على حقائق وأرقام مستندة إلى بحث علمي.
رؤيوي – ستحصل على لمحة عن المستقبل وما قد يعنيه لك.
منظم جيدًا – ستجد هذا منظمًا بشكل خاص لدعم استقباله أو تطبيقه.

Recommendation

Increasingly, businesses are turning to AI systems to automate their processes, data analysis and interactions with employees and customers. As a result, fairness has emerged as a knotty problem. AI systems inherently reflect and perpetuate the pervasive bias in data sets – a flaw that has no mathematical solution. In succinct and implementable fashion, AI risk governance expert Sian Townson recommends a three-phase approach to manage AI systems’ intractable biases.

Summary

AI systems inevitably perpetuate bias.

Artificial intelligence (AI) systems generalize from existing data, and because bias pervades historical data, AI will echo and perpetuate that bias. AI bias occurs in part because, typically, less input data exists for minority groups. As a result, AI results will produce lower accuracy for members of minority groups – a problem that affects algorithms for medical treatment, credit decisions, fraud detection, marketing and reading text.

No method exists to prevent AI from perpetuating bias that exists in historical data. Mathematically, it can’t be done. AI excels at discovering patterns, and bias permeates data sets too deeply...

About the Author

Sian Townson is an expert in AI risk and governance frameworks and holds a doctorate in mathematical modeling from Oxford University. She currently works as a partner for the global consultancy, Oliver Wyman.

Manage AI Bias Instead of Trying to Eliminate It

To remediate the bias built into AI data, companies can take a three-step approach.

Read, Listen, or Discuss

Editorial Rating

getAbstract Rating

Recommendation

Summary

AI systems inevitably perpetuate bias.

About the Author

My Highlights

Comment on this summary

More on this topic

Learners who read this summary also read

Design AI so that it’s Fair

Biased AI Is Another Sign We Need to Solve the Cybersecurity Diversity Problem

Using Artificial Intelligence to Promote Diversity

The Equality Machine

AI Snake Oil

Erasing Institutional Bias

Related Skills