Melden Sie sich bei getAbstract an, um die Zusammenfassung zu erhalten.

Mais do que uma Falha

Melden Sie sich bei getAbstract an, um die Zusammenfassung zu erhalten.

Mais do que uma Falha

Confrontando vieses de raça, gênero e capacidade no mundo da tecnologia

MIT Press,

15 Minuten Lesezeit
7 Take-aways
Audio & Text

Was ist drin?

Aprenda sobre o viés da máquina, o seu impacto em diversos setores e comunidades e como ele perpetua o status quo.

  • 0.5×
  • 0.75×
  • 1×
  • 1.25×
  • 1.5×
  • 1.75×
1×

Avaliação Editorial

9

Qualidades

  • Revelador
  • Audaz
  • Inspirador

Recomendação

Talvez a sua tendência seja descartar situações de viés da máquina por acreditar que sejam “falhas”. No entanto, elas são estruturais e refletem o racismo, o sexismo e o capacitismo do mundo real, afirma a professora de jornalismo de dados Meredith Broussard. A tecnologia deve funcionar para todos – ninguém pode se sentir impedido de utilizar a tecnologia com base na cor da pele, sexo, idade ou habilidade. Broussard apresenta vários estudos de caso de viés da máquina, detalhando os danos causados em áreas como policiamento e assistência médica. Ela desafia as Big Tech a prestarem contas e trabalharem em prol do interesse público.

Resumo

O viés da máquina é um problema estrutural que requer soluções complexas.

As pessoas assumem que os computadores podem resolver problemas sociais, mas isso nem sempre é verdade. As máquinas somente podem calcular a justiça matemática, que é diferente da justiça social. Um computador pode ser programado para criar matematicamente uma solução, mas isso não significa que os seus algoritmos sejam livres de vieses e de tomadas de decisão neutras. Os programadores são seres humanos que trazem os seus preconceitos – como aqueles enraizados no racismo, privilégio e ganância – para os seus trabalhos. A crença de que a tecnologia irá resolver os problemas sociais indica um grande nível de “tecnochauvinismo”, ignorando o fato de que existe sim o viés da máquina e que igualdade muitas vezes difere de justiça ou equidade.

As pessoas raramente desenvolvem tecnologias tendenciosas intencionalmente. A maioria dos engenheiros talvez acredite incorretamente que esteja construindo uma tecnologia “neutra”. Como exemplo de viés da máquina, veja o caso do vídeo de um dispensador de sabonete “racista” que se tornou viral em 2017: um homem de pele mais escura descobriu que o dispensador de...

Sobre a autora

Meredith Broussard é jornalista especializada em ciência de dados e autora de vários livros, incluindo Artificial Unintelligence: How Computers Misunderstand the World. Ela também atua como professora associada no Journalism Institute da New York University e diretora de pesquisa da NYU Alliance for Public Interest Technology.

Comente sobre este resumo

Mais deste tópico

Os clientes que leem esse resumo também leem

Gerencie os Vieses da IA ao Invés de Tentar Eliminá-los
Artigo

Sian Townson

Gerencie os Vieses da IA ao Invés de Tentar Eliminá-los

Remedie os vieses embutidos nos dados de IA adotando uma abordagem em três etapas.
O Seu Computador Está Pegando Fogo
Livro

Benjamin Peters et al.

O Seu Computador Está Pegando Fogo
Insubstituível
Livro

Pascal Bornet

Insubstituível

The Art of Standing Out in the Age of Artificial Intelligence
Como Pensar Sobre IA
Livro

Richard Susskind

Como Pensar Sobre IA

Um guia para os perplexos
Integridade Artificial
Livro

Hamilton Mann

Integridade Artificial

Os caminhos para conduzir a IA rumo a um futuro centrado no ser humano
O Condutor do Carro Autônomo
Livro

Vivek Wadhwa e Alex Salkever

O Condutor do Carro Autônomo

Como as nossas escolhas tecnológicas vão moldar o futuro

    Relacionados a habilidades

    Unternehmensfinanzen
    Entrepreneurship
    Executive Leadership
    Compliance und Risiko steuern
    Personalwesen
    Kulturelles Bewusstsein entwickeln
    Führung
    KI für das Marketing nutzen
    Gute Entscheidungen treffen
    Management
    Marketing
    Produktion und Logistik
    Diversity, Equity & Inclusion fördern
    Soft Skills
    KI für Produktion und Lieferkette nutzen
    Berufliche Kompetenzen
    KI-Anwendungsfälle in der Pharmaindustrie entdecken
    Unconcious Bias verstehen
    KI für Cybersicherheit nutzen
    KI für Finanzen nutzen
    KI in Ihren täglichen Aufgaben nutzen
    KI-Anbieter finden
    KI für die Produktentwicklung nutzen
    KI verstehen
    Die Fähigkeiten und Grenzen von KI verstehen
    Multimodale KI verstehen
    KI zur Priorisierung von Funktionen nutzen
    KI zur Überwachung von Lieferantenrisiken nutzen
    KI für die Nutzerforschung nutzen
    Die KI-Transformation durch führen
    KI für die Vertragsanalyse nutzen
    KI für Lernen und Weiterbildung nutzen
    KI für die visuelle Qualitätsinspektion nutzen
    KI-Anbieter für Geschäftsstrategien entdecken
    KI zur Entscheidungsunterstützung nutzen
    KI zur Betrugserkennung nutzen
    KI für Marktanalysen nutzen
    Teams durch den Übergang zu KI führen
    KI für das Personalwesen nutzen
    KI für Führung nutzen
    KI zur Prozessoptimierung nutzen
    Die Auswirkungen von KI auf das Geschäft messen
    KI für das Schwachstellenmanagement nutzen
    KI-Prioritäten wählen
    Anwendungsfälle für KI entdecken
    Die KI-Akzeptanz in Teams fördern
    KI für das Management nutzen
    Die Auswirkungen von KI auf Unternehmen und die Wirtschaft verstehen
    Die Auswirkungen von KI auf die Arbeit verstehen
    KI für die Datenanalyse nutzen
    KI für Risikomodelle nutzen
    Anwendungsfälle von KI in der Gesundheitsbranche entdecken
    KI für die Compliance-Überwachung nutzen
    KI für die Kreditbewertung nutzen
    Die Transformation der KI-Arbeitskräfte planen
    KI für die Compliance nutzen
    KI für die Risikobewertung nutzen
    KI mit Unternehmenswissen nutzen
    KI für die Unternehmensstrategie nutzen
    Die KI-Vision und -Strategie festsetzen
    KI sicher nutzen
    Organisieren für KI
    Die Risiken von KI verstehen
    Die ethischen Auswirkungen von KI verstehen
    KI-Transformation
    AI-Governance etablieren
    Nutze KI ethisch als Führungskraft
    KI ethisch nutzen