На определенном уровне опровергнуть такой подход невозможно. Алгоритмы способны переводить с одного человеческого языка на другой, не понимая значения текста, руководствуясь только закономерностями организации слов в предложения. Они могут найти совпадения там, где человеку не придет в голову искать. Алгоритмы торговой сети Walmart обнаружили всплеск спроса на клубничное печенье марки Pop-Tarts перед каждым ураганом. И хотя алгоритм бездумно реализует заложенные в него процедуры – даже по мере того, как он учится видеть новые закономерности в данных, он тем не менее отражает логику своих создателей, мотивы тех, кто обучал его. Amazon, как и Netflix, использует рекомендательные системы для книг и фильмов. (И они генерируют одну треть продаж Amazon). Алгоритмы этих систем пытаются распознать наши вкусы, а также вкусы потребителей культуры, думающих примерно как мы. И все же эти алгоритмы выдают принципиально разные рекомендации. Amazon направляет внимание на книги, похожие на уже просмотренные, а Netflix – в сторону незнакомого. Эта разница не случайна, а обоснована интересами бизнеса. Прокат блокбастеров обходится Netflix дороже, и потому, если им удается направить интерес зрителя в сторону более экзотической продукции, их доход растет. У специалистов по информатике есть поговорка, говорящая, как безжалостно алгоритмы охотятся за закономерностями. Они говорят, что данные «пытают, пока те не сознаются». В этом сравнении есть, однако, скрытый обертон.
Данные, как и жертвы пыток, рассказывают то, что хочет услышать дознаватель.
Иногда алгоритм отражает бессознательное своих создателей. Позвольте мне прибегнуть к экстремальному примеру. Профессор Гарвардского университета Латания Суини предприняла исследование и пришла к выводу, что Google выделял пользователей с афроамериканскими именами и показывал им рекламу, предполагающую, что они нуждаются в снятии судимости. Google не сообщает, отчего происходит подобное. Их алгоритм – один из наиболее тщательно охраняемых секретов. Тем не менее мы знаем, что они построили свою поисковую машину таким образом, чтобы она отражала их представления о мире. Инженеры Google предполагали, что популярность веб-сайта явно отражает его полезность; поисковая машина старается понижать приоритет порнографии, но не, скажем, сторонников еврейского заговора; она также полагает, что пользователи выиграют от новых материалов, а не от старого доброго контента. Все это разумные предпочтения и, возможно, оправданные с точки зрения бизнеса, но это предпочтения, а не наука.
