Здесь можно увидеть парадокс. Если мы снова вернемся к нашему банкиру 1950-х годов, мы увидим, что его сознание наполнено человеческими предубеждениями: желаниями, предрассудками, недоверием к чужакам. Именно для того, чтобы делать свою работу более справедливо и более эффективно, он и его коллеги по профессии и передали работу алгоритму.
Шестьдесят лет спустя миром управляют автоматические системы, которые наполняют наши досье ошибками. Они срочно нуждаются в понимании контекста, здравого смысла и справедливости, а это понимание могут обеспечить только люди. Однако, если мы оставим эту проблему на усмотрение рынка, который ценит лишь эффективность, рост и поток прибыли (и ради этого согласен на определенный процент ошибок), живым людям будут даны инструкции не вмешиваться и держаться подальше от машин.
* * *
Это будет большой проблемой, потому что, пока мы вскрываем и решаем проблемы с нашими старыми кредитными моделями, на рынок стремительно врываются мощные новые игроки. Например, Facebook запатентовал новый тип кредитного рейтинга, основанный на изучении наших социальных сетей. Цель, если смотреть поверхностно, вполне разумна. Представьте себе выпускника колледжа, который отправляется на пять лет в Африку в составе религиозной миссии – помогать обеспечивать питьевой водой нищие африканские деревни. Затем он возвращается домой – естественно, не имея никакого кредитного рейтинга – и начинает испытывать сложности с получением кредита. Однако на Face-book есть все его одноклассники – и многие из них стали инвестиционными банкирами, кандидатами наук, разработчиками ПО… Анализ социального окружения нашего миссионера показывает, что он вполне может быть надежным заемщиком. Однако тот же алгоритм с большой вероятностью сработает против какого-нибудь трудолюбивого уборщика из восточного Сент-Луиса, в друзьях у которого немало безработных и даже несколько заключенных.
Тем временем респектабельная банковская индустрия продолжает маниакально прочесывать наши личные данные в попытках стимулировать бизнес. Однако лицензированные банки (в отличие от брокеров данных) подлежат федеральному регулированию и определенным правилам конфиденциальности. С точки зрения этих правил собирание досье на клиентов влечет репутационные и юридические риски. Компания American Express убедилась в этом на собственной шкуре в 2009 году, как раз в разгар Великой рецессии. Пытаясь уменьшить риски ради собственной балансовой ведомости,
