加入 getAbstract 阅读摘要

Mais do que uma Falha

加入 getAbstract 阅读摘要

Mais do que uma Falha

Confrontando vieses de raça, gênero e capacidade no mundo da tecnologia

MIT Press,

15 分钟阅读
7 个要点速记
音频和文本

看看什么内容?

Aprenda sobre o viés da máquina, o seu impacto em diversos setores e comunidades e como ele perpetua o status quo.


Avaliação Editorial

9

Qualidades

  • Revelador
  • Audaz
  • Inspirador

Recomendação

Talvez a sua tendência seja descartar situações de viés da máquina por acreditar que sejam “falhas”. No entanto, elas são estruturais e refletem o racismo, o sexismo e o capacitismo do mundo real, afirma a professora de jornalismo de dados Meredith Broussard. A tecnologia deve funcionar para todos – ninguém pode se sentir impedido de utilizar a tecnologia com base na cor da pele, sexo, idade ou habilidade. Broussard apresenta vários estudos de caso de viés da máquina, detalhando os danos causados em áreas como policiamento e assistência médica. Ela desafia as Big Tech a prestarem contas e trabalharem em prol do interesse público.

Resumo

O viés da máquina é um problema estrutural que requer soluções complexas.

As pessoas assumem que os computadores podem resolver problemas sociais, mas isso nem sempre é verdade. As máquinas somente podem calcular a justiça matemática, que é diferente da justiça social. Um computador pode ser programado para criar matematicamente uma solução, mas isso não significa que os seus algoritmos sejam livres de vieses e de tomadas de decisão neutras. Os programadores são seres humanos que trazem os seus preconceitos – como aqueles enraizados no racismo, privilégio e ganância – para os seus trabalhos. A crença de que a tecnologia irá resolver os problemas sociais indica um grande nível de “tecnochauvinismo”, ignorando o fato de que existe sim o viés da máquina e que igualdade muitas vezes difere de justiça ou equidade.

As pessoas raramente desenvolvem tecnologias tendenciosas intencionalmente. A maioria dos engenheiros talvez acredite incorretamente que esteja construindo uma tecnologia “neutra”. Como exemplo de viés da máquina, veja o caso do vídeo de um dispensador de sabonete “racista” que se tornou viral em 2017: um homem de pele mais escura descobriu que o dispensador de...

Sobre a autora

Meredith Broussard é jornalista especializada em ciência de dados e autora de vários livros, incluindo Artificial Unintelligence: How Computers Misunderstand the World. Ela também atua como professora associada no Journalism Institute da New York University e diretora de pesquisa da NYU Alliance for Public Interest Technology.


Comente sobre este resumo

Mais deste tópico

Relacionados a habilidades

企业财务
创业
行政领导
管理合规与风险
人力资源
增强你的文化意识
领导能力
利用人工智能开展营销
做出正确的决定
管理层
市场营销
生产和物流
促进多样性、公平性和包容性
软技能
将人工智能用于生产和供应链
工作场所技能
探索人工智能在制药行业的应用案例
了解无意识偏见
利用人工智能促进网络安全
利用人工智能开展金融业务
在日常工作中利用人工智能
寻找人工智能供应商
利用人工智能进行产品开发
了解人工智能
了解人工智能的能力和局限
了解多模态人工智能
使用人工智能确定功能优先级
利用人工智能监控供应商风险
使用人工智能进行用户研究
推动人工智能转型
使用人工智能进行合同分析
利用人工智能学习和提高技能
使用人工智能进行视觉质量检测
了解人工智能供应商的业务战略
利用人工智能提供决策支持
利用人工智能进行欺诈检测
利用人工智能进行市场分析
引导团队完成人工智能过渡
利用人工智能促进人力资源
利用人工智能提升领导力
利用人工智能优化流程
衡量人工智能的业务影响
利用人工智能进行漏洞管理
选择人工智能优先事项
探索人工智能应用案例
推动团队采用人工智能
利用人工智能进行管理
了解人工智能对商业和经济的影响
了解人工智能对工作的影响
利用人工智能进行数据分析
利用人工智能进行风险建模
探索医疗行业的人工智能应用案例
使用人工智能进行合规性监控
使用人工智能进行信用评分
规划人工智能劳动力转型
利用人工智能促进合规
使用人工智能进行风险评估
利用公司知识使用人工智能
利用人工智能制定业务战略
制定人工智能愿景和战略
安全使用人工智能
为人工智能组织起来
了解人工智能风险
了解人工智能的伦理影响
人工智能转型
建立人工智能管理机构
作为领导者合乎道德地使用人工智能
合乎道德地使用人工智能