Хорошо это или плохо, но история человечества в этом столетии плотно связана с созданием и поддержанием систем искусственного интеллекта. Как ученики волшебника, мы обнаружили, что являемся всего лишь одной движущей силой среди многих в мире, заполненном волшебными метлами. Как именно мы собираемся обучать машины? И чему?
Брайан Кристиан исследует ключевой вызов эпохи ИИ: как научить машины понимать и разделять человеческие ценности. От алгоритмов, усиливающих предвзятость, до непредсказуемых последствий «умных» систем, книга показывает, что просто создать ИИ — недостаточно. Необходимо обеспечить его «согласование» с нашими намерениями. Кристиан предлагает увлекательный взгляд на историю машинного обучения и призывает к более гуманному подходу к разработке ИИ, где человеческое мнение играет центральную роль.

Точки пересечения ИИ и человека:
1. Справедливость и равенство: невозможно одновременно учитывать разные критерии справедливости из-за существующих социальных различий.
2. Предупреждение рисков: новые технологии обучения и адаптации моделей должны сглаживать негативные последствия ИИ.
3. Прозрачность и объяснимость: необходимо понимать принципы работы ИИ, чтобы не попадать в опасные ситуации.
4. Коллективная ответственность: нужен междисциплинарный подход к созданию и регулированию ИИ, учитывающий мнения представителей разных областей знания.

Об авторе
Брайан КРИСТИАН — автор известных бестселлеров «Самый человечный человек» и «Алгоритмы для жизни», которые переведены на девятнадцать языков. Читал лекции в Google, Microsoft, Институте Санта-Фе и Лондонской школе экономики. Является приглашенным научным сотрудником Калифорнийского университета в Беркли, живет в Сан-Франциско.