跳过导航
Mais do que uma Falha
Livro

Mais do que uma Falha

Confrontando vieses de raça, gênero e capacidade no mundo da tecnologia

MIT Press, 2023 更多详情

Compre o livro


Avaliação Editorial

9

Qualidades

  • Revelador
  • Audaz
  • Inspirador

Recomendação

Talvez a sua tendência seja descartar situações de viés da máquina por acreditar que sejam “falhas”. No entanto, elas são estruturais e refletem o racismo, o sexismo e o capacitismo do mundo real, afirma a professora de jornalismo de dados Meredith Broussard. A tecnologia deve funcionar para todos – ninguém pode se sentir impedido de utilizar a tecnologia com base na cor da pele, sexo, idade ou habilidade. Broussard apresenta vários estudos de caso de viés da máquina, detalhando os danos causados em áreas como policiamento e assistência médica. Ela desafia as Big Tech a prestarem contas e trabalharem em prol do interesse público.

Resumo

O viés da máquina é um problema estrutural que requer soluções complexas.

As pessoas assumem que os computadores podem resolver problemas sociais, mas isso nem sempre é verdade. As máquinas somente podem calcular a justiça matemática, que é diferente da justiça social. Um computador pode ser programado para criar matematicamente uma solução, mas isso não significa que os seus algoritmos sejam livres de vieses e de tomadas de decisão neutras. Os programadores são seres humanos que trazem os seus preconceitos – como aqueles enraizados no racismo, privilégio e ganância – para os seus trabalhos. A crença de que a tecnologia irá resolver os problemas sociais indica um grande nível de “tecnochauvinismo”, ignorando o fato de que existe sim o viés da máquina e que igualdade muitas vezes difere de justiça ou equidade.

As pessoas raramente desenvolvem tecnologias tendenciosas intencionalmente. A maioria dos engenheiros talvez acredite incorretamente que esteja construindo uma tecnologia “neutra”. Como exemplo de viés da máquina, veja o caso do vídeo de um dispensador de sabonete “racista” que se tornou viral em 2017: um homem de pele mais escura descobriu que o dispensador de...

Sobre a autora

Meredith Broussard é jornalista especializada em ciência de dados e autora de vários livros, incluindo Artificial Unintelligence: How Computers Misunderstand the World. Ela também atua como professora associada no Journalism Institute da New York University e diretora de pesquisa da NYU Alliance for Public Interest Technology.


Comente sobre este resumo

Mais deste tópico

Relacionados a habilidades

Корпоративные финансы
Предпринимательство
Высшее руководство
Управление соблюдением норм и рисками
Управление персоналом
Повышайте культурную компетентность
Лидерство
Используйте ИИ для маркетинга
Принимайте оптимальные решения
Менеджмент
Маркетинг
Производство и логистика
Проводите политику DEI
Софт-скиллз
Используйте ИИ для производства и цепочки поставок
Навыки для работы
Откройте для себя примеры использования ИИ в фармацевтической промышленности
Изучите тему неосознанной предвзятости
Используйте ИИ для кибербезопасности
Используйте ИИ в финансах
Используйте ИИ в своих повседневных задачах
Найдите поставщиков ИИ
Используйте ИИ для разработки продуктов
Понимать ИИ
Понимание возможностей и ограничений ИИ
Используйте ИИ для приоритизации функций
Используйте ИИ для мониторинга рисков поставщиков
Используйте ИИ для исследования пользователей
Ведите трансформацию с использованием ИИ
Понимать многомодальный ИИ
Используйте ИИ для анализа контрактов
Используйте ИИ для обучения и повышения квалификации
Используйте ИИ для визуального контроля качества
Откройте для себя поставщиков ИИ для бизнес-стратегии
Используйте ИИ для поддержки принятия решений
Используйте ИИ для обнаружения мошенничества
Используйте ИИ для анализа рынка
Направляйте команды в переходе к ИИ
Используйте ИИ для HR
Используйте ИИ для лидерства
Используйте ИИ для оптимизации процессов
Измерьте влияние ИИ на бизнес
Используйте ИИ для управления уязвимостями
Выберите приоритеты ИИ
Изучите случаи использования ИИ
Стимулируйте внедрение ИИ в командах
Используйте ИИ для управления
Понимание влияния ИИ на бизнес и экономику
Понимание влияния ИИ на работу
Используйте ИИ для анализа данных
Используйте ИИ для моделирования рисков
Откройте для себя примеры использования ИИ в здравоохранении
Используйте ИИ для мониторинга соблюдения
Используйте ИИ для кредитного скоринга
Планируйте трансформацию рабочей силы с помощью ИИ
Используйте ИИ для соблюдения норм
Используйте ИИ для оценки рисков
Используйте ИИ с корпоративными знаниями
Используйте ИИ для бизнес-стратегии
Установить видение и стратегию ИИ
Используйте ИИ безопасно
Понимать риски ИИ
Организуйте для ИИ
Понимать этическое воздействие ИИ
Трансформация с использованием ИИ
Установить управление ИИ
Используйте ИИ этично как лидер
Используйте ИИ этично