Воспитание ИИ

Общее руководство по уходу за нашим будущим

MIT Press, 2026

15 Minuten Lesezeit

6 Take-aways

Text verfügbar

Was ist drin?

Системы ИИ учатся у людей, поэтому стоит задуматься: чему должно учить общество своих “искусственных детей”?

Рейтинг редакции

Характеристики

Особое мнение
Взгляд в будущее
Выразительный язык

Рецензия getAbstract

Искусственный интеллект не только меняет общество, но и учится у него. Поэтому правомерен вопрос: какие принципы, модели поведения и способы мышления переймет (и многократно усилит) искусственный интеллект? Автор этой увлекательной книги Де Кай, исследователь в области ИИ, анализирует, как предвзятость, дезинформация, поляризация, проблема объяснимости и процесс принятия решений людьми переплетаются с технологиями, которые мы создаем. По его мнению, ИИ – это не столько техническая проблема, сколько человеческая: чтобы построить желаемое будущее, нам необходимо задуматься о том, каких “искусственных детей” мы воспитываем, и найти способы привить этим виртуальным “потомкам” ценности, которые для нас наиболее важны.

Краткое содержание

ИИ учится на человеческом поведении и усиливает его черты.

ИИ – это уже не просто набор инструментов, которыми пользуются люди. Системы ИИ активно участвуют в жизни общества: они приобретают опыт из среды, созданной для них людьми, и, в свою очередь, влияют на то, какую информацию получают люди, какие идеи привлекают их внимание и какие взгляды пользуются поддержкой в обществе. Представьте, что вы воспитываете ИИ, подобно тому как воспитываете детей. Отношения между человеческой и машинной культурами будут здоровыми, если мы научим системы ИИ взаимодействовать с широким спектром идей и вдумчиво их оценивать. Это значит, что следует поощрять такие качества, как креативность, инклюзивность, уважение к различным точкам зрения и открытость новым возможностям, а решения принимать на основе фактов и тщательного анализа.

К сожалению, многие современные модели поведения в интернете преподают искусственному интеллекту прямо противоположные уроки. Всякий раз, когда люди вознаграждают лишь те точки зрения, с которыми они уже согласны, они укрепляют системы, ограничивающие взаимодействие с новыми идеями, и стимулируют не любознательность, а интеллектуальную изоляцию. Исследования, проведенные Пенсильванским университетом и Лондонским городским университетом, показали, что даже если всего ...

Об авторе

Де Кай – ученый-новатор в области искусственного интеллекта, создатель первого в мире глобального веб-переводчика и разработчик революционных языковых моделей, которые легли в основу сервисов Google Translate и Microsoft Translator.