Skip navigation
Mais do que uma Falha
Livro

Mais do que uma Falha

Confrontando vieses de raça, gênero e capacidade no mundo da tecnologia

MIT Press, 2023 more...

Compre o livro


Avaliação Editorial

9

Qualidades

  • Revelador
  • Audaz
  • Inspirador

Recomendação

Talvez a sua tendência seja descartar situações de viés da máquina por acreditar que sejam “falhas”. No entanto, elas são estruturais e refletem o racismo, o sexismo e o capacitismo do mundo real, afirma a professora de jornalismo de dados Meredith Broussard. A tecnologia deve funcionar para todos – ninguém pode se sentir impedido de utilizar a tecnologia com base na cor da pele, sexo, idade ou habilidade. Broussard apresenta vários estudos de caso de viés da máquina, detalhando os danos causados em áreas como policiamento e assistência médica. Ela desafia as Big Tech a prestarem contas e trabalharem em prol do interesse público.

Resumo

O viés da máquina é um problema estrutural que requer soluções complexas.

As pessoas assumem que os computadores podem resolver problemas sociais, mas isso nem sempre é verdade. As máquinas somente podem calcular a justiça matemática, que é diferente da justiça social. Um computador pode ser programado para criar matematicamente uma solução, mas isso não significa que os seus algoritmos sejam livres de vieses e de tomadas de decisão neutras. Os programadores são seres humanos que trazem os seus preconceitos – como aqueles enraizados no racismo, privilégio e ganância – para os seus trabalhos. A crença de que a tecnologia irá resolver os problemas sociais indica um grande nível de “tecnochauvinismo”, ignorando o fato de que existe sim o viés da máquina e que igualdade muitas vezes difere de justiça ou equidade.

As pessoas raramente desenvolvem tecnologias tendenciosas intencionalmente. A maioria dos engenheiros talvez acredite incorretamente que esteja construindo uma tecnologia “neutra”. Como exemplo de viés da máquina, veja o caso do vídeo de um dispensador de sabonete “racista” que se tornou viral em 2017: um homem de pele mais escura descobriu que o dispensador de...

Sobre a autora

Meredith Broussard é jornalista especializada em ciência de dados e autora de vários livros, incluindo Artificial Unintelligence: How Computers Misunderstand the World. Ela também atua como professora associada no Journalism Institute da New York University e diretora de pesquisa da NYU Alliance for Public Interest Technology.


Comente sobre este resumo

Mais deste tópico

Relacionados a habilidades

Corporate Finances
Entrepreneurship
Executive Leadership
Govern Compliance and Risk
Human Resources
Increase Your Cultural Awareness
Leadership
Leverage AI for Marketing
Make Good Decisions
Management
Marketing
Production and Logistics
Promote Diversity, Equity, and Inclusion
Soft Skills
Use AI for Production & Supply Chain
Workplace Skills
Discover AI Use Cases in the Pharmaceutical Industry
Use AI Ethically
Understand Unconscious Bias
Use AI for Visual Quality Inspection
Leverage AI in Your Daily Tasks
Use AI for Coding and Debugging
Leverage AI for Cybersecurity
Leverage AI for Finance
Understand AI Ethical Impact
Find AI Vendors
Understand AI Capabilities and Limits
Use AI for Feature Prioritization
Use AI for User Research
Use AI for Supplier Risk Monitoring
Leverage AI for Product Development
Understand AI
Understand Multimodal AI
Use AI for Learning and Upskilling
Drive AI Transformation
Use AI for Contract Analysis
Discover AI Vendors for Business Strategy
Use AI for Decision Support
Use AI for Market Analysis
Use AI for Fraud Detection
Guide Teams Through AI Transition
Leverage AI for HR
Use AI for Process Optimization
Leverage AI for Leadership
Measure AI Business Impact
Use AI for Vulnerability Management
Choose AI Priorities
Leverage AI for Management
Discover AI Use Cases
Drive AI Adoption in Teams
Understand AI Impact on Work
Use AI for Data Analysis
Understand AI Impact on Business and Economy
Use AI for Credit Scoring
Use AI for Risk Modeling
Use AI for Compliance Monitoring
Discover AI Use Cases in the Healthcare Industry
Plan AI Workforce Transformation
Leverage AI for Compliance
Use AI for Risk Assessment
Use AI with Company Knowledge
Leverage AI for Business Strategy
Set AI Vision & Strategy
Use AI Securely
Organize for AI
Understand AI Risks
AI Transformation
Establish AI Governance
Use AI Ethically as a Leader