Вот еще лучший пример того, как сложность может стать синонимом глупости. Он касается «Subaru». Подруга моей жены не так давно поехала подвезти своего ребенка. Она не хотела останавливаться, но он убедил ее выключить двигатель и быстренько выпить чашечку чая. В тот момент она не знала, что в машине не было ни одного ключа. Как выяснилось, вы можете запустить несколько машин, если поднести ключ достаточно близко, и можете даже уехать на одной из них. Единственное, чего вы не должны делать – это выключать двигатель, потому что тогда вы не сможете запустить его снова. Неужели автомобильный мир сошел с ума? В прошлом я мог запустить любой автомобиль, если сломалось зажигание. Теперь, если машина не заводится – ломаюсь и я.
Неужели это тупик?
Количество машин на дорогах всего мира в ближайшее время удвоится, что скажется на природных ресурсах, климате и безопасности человека.
В среднем за месяц по всему миру 108 000 человек погибают в автомобильных авариях, и к 2020 году эта цифра вырастет до 150 000. В 90 процентах случаев к дорожно-транспортным происшествиям приводят неправильные действия людей, а при все возрастающем старении населения ситуация будет только ухудшаться.
Например, в ходе проведенного в США исследования выяснилось, что, хотя лица 70 лет и старше составляли 9 процентов населения страны, они были виновны в 14 процентах всех дорожно-транспортных происшествий и несли ответственность за 17 процентов смертей пешеходов. Очевидно, что удаление людей, особенно старшего возраста, с водительского сиденья, теоретически – хорошая идея. Это может сделать трафик более эффективным, а также снизить загрязнение окружающей среды. Мы уже принимаем идею дистанционно управляемого движения, так почему бы не отправлять данные самим автомобилям, чтобы они сами решали, что делать?
Но подобной автоматизации сопутствуют некоторые этические проблемы. Николас Карр отмечает: «В какой-то момент автоматизация достигнет критической массы. Она начнет формировать поведение общества, восприятие и этические нормы». Например, можно ли отстранить водителей от решения вопросов жизни и смерти и передать их на откуп алгоритмам? Можно ли, нужно ли запрограммировать машину на вынесение моральных суждений? Как бы вы себя чувствовали, если бы автомобиль подсчитал, что ему стоит врезаться в дерево и убить вас для того, чтобы спасти жизни двух пьяных незнакомцев, перебегающих дорогу?
У нас уже много лет работают машины, выносящие суждения о водителях, хотя мы редко это замечаем. Автоматические системы распознавания номерного знака работают с середины 1970-х годов и стали обычным делом с 1980-х. Повсеместно присутствуют камеры, контролирующие полосу для движения автобусов и выявляющие случаи превышения скорости. В Нидерландах и Австралии даже штрафы регулярно рассылаются без какого-либо участия человека. Подобные разработки обеспечили возможность контролировать и наказывать неправильное поведение человека поистине в беспрецедентных масштабах.
