Судьба самоуправляемого автомобиля оказалась короткой, по крайней мере в первоначальном варианте, и его моральная состоятельность так и не смогла пройти проверку временем. Но ничто не доказало техногенную уязвимость нашей цивилизации сильнее, чем гигантские транспортные заторы конца семидесятых. В те годы автономный автотранспорт составлял семнадцать процентов от общего объема. Кто может забыть душегубку бескрайней пробки на улицах Манхэттена, получившей известность как «Манхэттенская пробка»? Из-за аномальной солнечной активности множество бортовых радаров одновременно вышли из строя. Улицы и авеню, мосты и тоннели оказались наглухо забиты автомобилями, и понадобилось несколько дней, чтобы разрулить этот бардак. А девять месяцев спустя подобное повторилось в Рурштадте, в Северной Европе, спровоцировав короткий экономический спад, породивший теории заговора. Подростки-хакеры, жаждущие беспредела? Или далекая враждебная, разрозненная нация с продвинутыми хакерскими приемами? А может – мое любимое, – производственно отсталый автопроизводитель, ярый ненавистник обжигающей новизны? Однако кроме нашего перетрудившегося солнца других виновников не нашли.
Мировые религии и великие литературные произведения ясно давали понять, что мы знаем, как быть хорошими. Мы выражали наши благородные стремления в поэзии, прозе и песнях, и мы знали, что делать. Проблема заключалась в том, чтобы претворить эти знания в жизнь – последовательно и в массовом порядке. Из временной смерти автономного автомобиля родилась мечта об искупительной добродетели роботов. Ее первичным воплощением стал Адам и ему подобные, как это подразумевало руководство пользователя. Предполагалось, что искусственный человек должен быть образцом добродетелей. Я никогда не встречу никого лучше его. Однако, если бы с Мирандой переспал мой друг, это было бы жестоко и безнравственно по отношению ко мне. Проблема была в том, что я купил Адама – он был моей дорогостоящей собственностью, и его обязательства передо мной, помимо общей полезности, были мне неясны. Чем раб обязан своему хозяину? Кроме того, Миранда не была «моей». Это было ясно. Я так и слышал, как она замечает, что у меня нет здравых оснований чувствовать себя преданным.
Но имелся еще один вопрос, который мы с ней пока не обсуждали. Программисты из автомобильной промышленности могли внести свой вклад в моральные ориентиры Адама. Но его личность сформировали мы с Мирандой. Я не знал, в какой мере его личность затрагивала или превосходила его этику. Насколько она обладала собственной волей? Идеально сформированная моральная система должна быть свободна от любых предрасположенностей. Но достижимо ли это? Закрепленная в железе, моральная система становилась не более чем сухим эквивалентом мысленного эксперимента «мозг в банке»
