В противоположность этому National Helpline Динакара вдобавок к созданию автоматизированного конкретного совета накопит огромное количество данных, которые будут храниться и анализироваться в своего рода банках электронного здоровья. «Мы станем скрупулезно анализировать каждый случай, – говорит Динакар. – Возможно, это поможет психиатрии превратиться в более определенную науку. Мы думаем над этим, и нам предстоит еще так много сделать… Мы сможем анализировать фотографии людей и диагностировать у них депрессию с такой точностью, с какой это еще никогда не делалось».
Сведение нашей личной жизни к совокупности простых данных заключает в себе риск скатиться к игре по правилам Большого брата, когда алгоритмы Динакара будут прочесывать интернет на предмет недружественного поведения и предлагать те или иные меры исправления»[46].
Алессандро Аквисти, ученый из Университета Карнеги – Меллона, показал, что в некоторых случаях программа распознавания лиц может проанализировать фотографию человека и в течение тридцати секунд определить номер его карточки социального страхования. Сравним это с алгоритмами, предложенными Динакаром, и я смогу точно описать вам эмоциональное состояние человека, которого я, допустим, сфотографирую на улице своим телефоном. Динакар превосходно осведомлен о конфиденциальности, условиями которой обставлены все наши сетевые излияния, но считает, что это дело политиков. «У меня нет ответа на этот вопрос, – сказал он мне. – Думаю, что все зависит от того, как используется та или иная технология. Но я не знаю ответа на то, как ее надо использовать»[47]. Полагаю, что ответа на этот вопрос не знает никто. В стремлении к признанию и связям – ко всем этим повышениям статуса и загрузке фотографий с метками географических координат – мы редко задумываемся, насколько откровенными становятся наши «исповеди». Мы не интересуемся тем, какому органу власти передаем свои признания. Причина в том, что само средство исповеди – технологические устройства – выглядит на редкость дружелюбным. Динакар создает более приветливый сетевой мир, и это хорошо. Но мы должны критически относиться к алгоритмическому управлению.
* * *
В каком-то смысле Динакар и его коллеги из Media Lab стремятся воплотить мечту Алана Тьюринга. «Я хочу создать компьютер, способный к сопереживанию, – сказал мне в конце нашей беседы Динакар. – Я не хочу никого банить. Я просто хочу… чтобы мир перестал быть местом одиночества». Конечно, чтобы компьютеры, обрабатывающие эмоции, функционировали так, как желают их создатели, нам надо быть готовыми отдаться на их милость.
