Автоматизация мышления: конечно, сейчас эта революция только начинается. Но можно предвидеть, к чему она приведет. Алгоритмы заменили людей во многих бюрократических, конторских задачах и скоро начнут вытеснять их из более творческих областей. В Netflix они определяют, фильмы каких жанров лицензировать для проката. Некоторые службы новостей используют алгоритмы для написания заметок о преступлениях, бейсбольных матчах и землетрясениях – то есть для решения наиболее механических репортерских задач. Алгоритмы создавали произведения изобразительного искусства, сочиняли симфоническую музыку – во всяком случае, создавали нечто приближенное.
Это в высшей степени пугающее развитие событий, во всяком случае для тех, кто работает в перечисленных областях. Если алгоритм способен воспроизвести акт творческого мышления, нет необходимости ценить его в человеке. Зачем терять время и силы на мучительный и неэффективный процесс написания картины или стихотворения, если компьютер может создать произведение, выглядящее на первый взгляд не хуже, но при этом без усилий и за долю секунды? К чему рынок высокого искусства с его вздутыми ценами, если оно может быть дешево и доступно? Ни одна сфера деятельности человека не устояла перед автоматизацией, так почему же дела в искусстве должны обстоять иначе?
Инженерный ум не в состоянии смириться с фетишизацией слов и изображений; ее не смогут оправдать ссылки ни на таинство искусства, ни на моральную сложность, ни на яркость эмоционального выражения. Он воспринимает людей как данные, как элементы системы, как абстракции. Вот почему Facebook не испытывает сомнений относительно своих постоянных экспериментов на пользователях. Цель всей этой работы – сделать людей предсказуемыми, предвидеть их поведение и упростить таким образом задачу манипулирования ими. Если представить себе это хладнокровное отношение к миру, чуждое непредсказуемости человеческой жизни, ее тайны, легко понять, почему многовековые моральные устои воспринимаются его носителями как досадное препятствие, почему идея неприкосновенности частной жизни получает так мало значения в расчетах инженера, почему издательское дело и журналистика постоянно оказываются его мишенью.
Facebook никогда не воспользовалась бы такой формулировкой, но алгоритмы предназначены для того, чтобы истребить свободу воли, избавить людей от бремени выбора, обратить их в нужном направлении. Алгоритмы питают чувство всемогущества, самодовольную веру в собственную силу менять поведение человека так, что он сам не чувствует руки, направляющей его. Эта опасность всегда была заключена в инженерном стиле мышления: выйти за пределы своего призвания, а именно – создания неодушевленных вещей, и начать совершенствовать общество по своему разумению. Мы, люди, оказываемся винтиками и гайками гигантской машины.
