不只是小毛病
书籍

不只是小毛病

如何应对科技中的种族、性别和能力偏见

梅雷迪思·布鲁萨德
MIT Press, 2023
购买此书

离线阅读

评级

9

关键特征

  • 开眼界
  • 大胆霸气
  • 启发灵感

导读荐语

机器偏见，乍一看也许只是个小毛病。但数据新闻学教授梅瑞迪斯·布鲁萨德（Meredith Broussard）认为，机器偏见是一个结构性问题，会反映出现实中的种族主义、性别歧视和能力歧视。科技应该为所有人服务——没有人应该因为肤色、性别、年龄或能力而对技术自感疏远。 布鲁萨德提供了机器偏见的几个案例研究，详细说明了它在警务和医疗保健等领域造成的危害。她敦促大科技公司接受公众监督，为公共利益服务。

浓缩书

机器偏见是一个结构性问题，需要复杂的解决方案。

人们相信计算机可以解决社会问题，但事实并非总是如此。机器只能在数学层面计算公平，但量化的公平不等于真正的社会公平。在为计算机系统编程时，编程者可能只想建立一套数学层面的解决方案，但由此产生的算法并不必然导向不偏不倚的中立决策。 程序员是人，他们也会受种族主义、特权意识、自我欺骗或一己私欲影响，并将这些偏差带入工作当中。 所谓“技术沙文主义”（technochauvinism）坚信技术进步一定可以解决社会问题，但这忽视了机器偏见的存在，也没有想到平等往往与正义或公正不同。

有偏见的技术往往不是蓄意的产物。大多数工程师可能只是误以为他们正在构建“中立”的技术。例如，一个“种族主义”自动洗手液机的视频曾在2017年流行网络，这就是机器偏见的一个体现：一名深肤色男子发现洗手液机识别不出他的手，因为它只识别浅肤色的手，因此不为他倒洗手液。类似这样的技术偏见，通常是由于工程师使用的测试对象群过于同质化。机器偏见不是“小故障”——它是一个结构性问题，需要复杂的解决方案。

机器在 “学习”中会更倾向于维护现状，成为体制性压迫的帮凶。

与人类的学习过程不同，机器学习的本质是在数据中发现规律、重复规律。如果算法系统在“训练”时采用了受种族主义偏见影响的数据，它就将重复这些模式，从而延续既有的社会不平等。 例如，如果你用美国银行放贷情况的真实历史数据来训练 ...

关于作者

梅瑞迪斯·布鲁萨德（Meredith Broussard）是一位数据记者，曾出版《人工不智能：计算机如何误解真实世界》（Artificial Unintelligence: How Computers Misunderstand the World）等多部著作。她也在纽约大学亚瑟·卡特新闻学研究所（Arthur L. Carter Journalism Institute）担任助理教授，并在纽约大学公共利益技术联盟（NYU Alliance for Public Interest Technology）担任研究主任。

恭喜你又学完了一篇干货！复述、评论及做笔记是对知识最大的致敬↓