Правозащитница Алёна Попова о любимых книгах. Книга 5

Ник Бостром — профессор факультета философии Оксфордского университета, основатель и директор Института будущего человечества. Если коротко, то его книга о рисках и угрозах человечеству. Вообще, как пишет Ник, перед лицом перспективы взрывного развития интеллекта мы похожи на детей, играющих с бомбой. Если само человечество делегирует свою судьбу и принятие решений алгоритму, который превосходит человечество по количеству, качеству знаний и скорости обработки информации, что будет с нами? Такой сверхразум может быть недружественным — и тогда он может препятствовать нам в том, чтобы его отключить или ограничить его влияние. По Бострому, есть несколько типов искусственного интеллекта: монархи, джинны, оракулы и инструменты. Каждый тип имеет преимущества и недостатки. Но куда важнее понять, можно ли обучить искусственный интеллект человеческим ценностям и как эти ценности потом будут эволюционировать.