Для многих ученых и технологических детерминистов из Кремниевой долины растущая мощность умных цифровых помощников ближайшего будущего не представляет собой никакой опасности – что плохого в том, чтобы использовать помощников, которые справляются с задачами чуть лучше, чем мои сегодняшние приложения, верно? В таком случае давайте рассмотрим более настораживающие возможные сценарии будущего.
Подумаем о том, что для того, чтобы быть великолепными, быстрыми и интуитивно предугадывать все наши желания, умным цифровым помощникам (нашим блистательным устройствам и продолжениям нас самих, личным облачным роботам) придется знать действительно многое о нас. На самом деле им, вероятно, придется знать о нас абсолютно все, отбирать информацию в реальном времени из всех доступных источников и постоянно обновлять ее. И многие из нас будут считать, что не имеют ничего против того, чтобы такая система располагала этими данными. Это позволит постоянно улучшать качество услуг, что сделает нашу жизнь еще проще: действительно, как ничтожна цена, которую нужно заплатить за это удивительное удобство и наши возрастающие силы!
Мы добровольно соглашаемся на то, чтобы за нами следили, – примерами тому могут послужить наши две любимые функции «сохранить» и «поделиться», обеспечивающие наш постоянный контакт с платформой. Google мастерски удается таким образом удерживать нас в своей постоянно расширяющейся вселенной, и Google – это лишь один пример такой глобальной платформы, которая хочет стать чем-то вроде всемирного мозга, дублирующего информацию о каждом пользователе в своем облаке. Возможность следить за нами – это как деньги в банке для компаний, работающих исключительно на данных: Google, Baidu, Alibaba, Facebook – компаний, которые не предлагают нам никаких материальных товаров, но специализируются на обработке данных и продвижении рекламы и информационных суперузлах. Представьте их мощность, в тысячи раз увеличенную с помощью ИИ и интернета вещей, – и увидите, как их доходы станут заоблачными.
Кто хочет тотальную слежку?
Итак, какие же проблемы могут возникнуть из-за умных цифровых помощников? Вот несколько примеров того, что они могут спровоцировать.
• Обострение проблем с безопасностью и настройками приватности.
Умного помощника могут взломать, обмануть, запугать или подкупить – тем или иным способом заставить его передать информацию о пользователе другому ИИ, которого он встретит на просторах сети. Например, он может разгласить пароли, с помощью которых третьи лица смогут отправлять электронные письма, делать покупки и пользоваться социальными медиа от лица своего владельца. Масштаб бедствия, следующий за такой комплексной утечкой информации, может привести к непоправимому ущербу, а владелец помощника может при этом оставаться в полном неведении!
