• Манипуляция в невообразимых масштабах.
Если мы доверим принятие решений нашим помощникам, то в первую очередь это затронет медиа и контент. Это и так уже происходит на базовом уровне в социальных сетях. Наши помощники смогут находить и фильтровать для нас новости, подбирать фильмы и в целом разбираться в наших социальных медиа. Технологии уже сейчас могут решать, что нам лучше смотреть, читать и слушать. Но облачный разум при поддержке экспоненциальных технологий во много раз превзойдет то, что мы имеем сегодня.
В будущем то, что видят миллионы людей и на что они обращают внимание, будет контролировать небольшая группа ботов и ведущие производители цифровых помощников. Сложно представить, какую цену бренды и рекламщики готовы будут заплатить за то, чтобы их заметили правильные пользователи в подходящее время и в нужном месте.
Рост популярности цифровых помощников вызывает у меня следующие вопросы:
1) Что, если эта цифровая копия меня передаст мою информацию не в те руки, например страховой компании или органам социального обеспечения, которые будут использовать ее для принятия решения о выплате или невыплате пособия?
2) Что, если мой цифровой помощник будет лучше меня принимать решения, и поэтому я доверю ему решать также, на ком мне жениться, куда переезжать, заводить ли детей, куда отправить их учиться?
3) Что, если мой помощник будет фильтровать все новости и информацию таким образом, что я никогда больше не увижу противоположные точки зрения, и что, если логика, по которой он фильтрует информацию, будет задаваться специальными кампаниями, чьей целью будет повлиять на мнение избирателей?
Gartner предсказывают, что к концу 2016-го сумма всех покупок, совершаемых цифровыми помощниками, включая комплексные покупки, как, например, набор «собери ребенка в школу», составит два миллиарда долларов в год. Это значит, что примерно 2,5 % пользователей мобильных устройств доверяют своим помощникам 50 долларов в год.
– «The World of Digital Assistants – Why Every day AI Apps Will Make up the IoT»>124
Стремительное развитие цифровых помощников подводит меня к тому, чтобы обновить свое любимое выражение: «Google знает о нас больше, чем наши жены и мужья». Когда такой помощник, как Google Now, собирает всевозможные данные обо мне: местонахождение, историю браузера, покупки, лайки, электронные письма, карты, просмотры на YouTube, – ставки увеличиваются. Как я обычно говорю, по шкале от 0 до 100 всего того, что может быть автоматизировано, мы находимся на пяти… и мы уже близки к тому, чтобы потерять контроль над ситуацией.
