Да, возможно, я не считаю это злом, но это не значит, что ИИ не представляет опасности. В выпуске журнала Wired за декабрь 2017 года было процитировано высказывание Стивена Хокинга: «Я боюсь, что ИИ может заменить всех людей», произнесенное в контексте разговора о самосовершенствующихся системах. Ученый продолжил: «Подлинный риск, связанный с ИИ, — не злой умысел, а компетентность. Сверхумный ИИ будет невероятно успешен в достижении целей, и, если эти цели не совпадут с нашими, мы окажемся в беде»[120]. Схожим образом, миллиардер, решивший колонизовать Марс, Илон Маск, предупредил, что ИИ — «главный риск, с которым мы сталкиваемся как цивилизация»[121]. Так человечеству был брошен вызов: нужно больше правовых норм, этических руководств и открытости, чтобы предотвратить сильный перевес власти.
Но давайте не увлекаться ИИ-магеддоном. Теперь, когда я убедила вас, что технологии сами по себе, вероятно, не способны на злой умысел, давайте посмотрим, как они могут раскрывать нас с худшей стороны.
Крысиные бега
В 2007 году криминолог Каруппаннан Джайшанкар открыл область исследований, которую назвал киберкриминологией, и определил ее как «науку о причинах преступлений, которые происходят в киберпространстве и влияют на физический мир». Он заметил, что киберпреступления качественно отличаются от других типов преступлений и для их понимания требуется междисциплинарный подход.
Если мы посмотрим на программы курсов по криминологии и судебной психологии, киберпреступности в них уделяется ужасающе мало внимания. За время моего университетского обучения (2004-2013 годы) я не прослушала ни одной лекции на эту тему. О данном упущении говорится и в обзоре по киберкриминологии за 2015 год, написанном Бри Даймонд и Майклом Бахманном: «Киберкриминология по большей части игнорируется или выводится за скобки классической криминологией... многие криминологи воздерживаются от изучения этой важной проблемы будущего. Может, им не хватает необходимого понимания технологий, или их пугают специфические термины, или им не удается в полной мере понять размах социальных последствий этого нового типа преступности, но данное пренебрежение удручает»[122].
Учитывая, что киберпреступность — самый распространенный тип преступности, такое замалчивание неприемлемо. Киберпреступность — это не только проблема инженеров и программистов, но и во многом проблема психологов, криминологов и полиции. В конце концов, за компьютерными экранами (обычно) все еще сидят люди, которые принимают решения, чтобы вредить кому-то в сети.
