Чем больше мы делаем вид, что наши данные и искусственный интеллект, который обучается на них, сгенерированы на 100 % в интересах человека, тем более ошибочные выводы делает система. Мы склонны игнорировать андроритмы в пользу алгоритмов, потому что нам нравятся легкие пути и упрощения.
Если измерить, насколько более эффективными могли бы стать бизнес или страна благодаря оцифровыванию и автоматизации, может получиться очень перспективная экономическая ситуация. Однако если измерить, насколько будут счастливы сотрудники и граждане после того, как все будет автоматизировано и роботизировано, может возникнуть совершенно другая социальная перспектива.
В 1968 году сенатор США Роберт Кеннеди уже считал ВВП плохо управляемым показателем, который «измеряет все, кроме того, ради чего стоит жить»>166. Для меня это является важнейшей мыслью: алгоритмы могут измерять или даже спроектировать всё, кроме того, что действительно важно для людей. Говоря это, я не хочу умалять того, что алгоритмы и технологии в целом могут сделать для нас. Я просто считаю, что важно поставить технологии на свое место, то есть применять там, где это полезно, и не применять там, где это вредно.
Неправильное определение процветания человечества только укрепит положение машин
К сожалению, мы с большим запозданием осознаем, что слишком долго неправильно определяли процветание человечества. Мы посчитали гедонистические удовольствия полезными и правильными, потому что зачастую их можно изготовить, организовать или предоставить с помощью технологий. Социальные сети служат отличным примером: мы действительно можем испытывать удовольствие, если мы нравимся другим людям, – что, скажем прямо, своего рода гедонизм… ловушка цифрового удовольствия. Но мы вряд ли почувствуем себя счастливыми при важном личном общении (в модели счастья PERMA Мартина Селигмана – ключевой термин, который будет разъяснен далее)[103],[104], >167.
Может быть, мы по-настоящему поймем разницу только в последний момент, когда каждая функция, которая делает нас людьми, будет либо заменена, либо практически утрачена для выполнения из-за гиперэффективных и необходимых технологий, когда мы забудем и растеряем наши навыки делать так, чтобы что-то работало само. Я, конечно, надеюсь, что такого не произойдет; но, столкнувшись с этим стремительным технологическим прогрессом, мы поняли, что нужно начинать определять «процветание человечества» как здоровое развитие. Это означает развитие более целостного представления о нашем будущем, которое выходит за рамки просто механистических, упрощающих и часто гедонистических подходов к счастью, популярных среди многих изобретателей новых технологий.
