Компьютер пополнил свой банк данных нерационального поведения человека, решил, что хозяину нужно поговорить, чтобы снять стресс, и потому задал пробный вопрос:
— Они ведут себе нечестно по отношению к вам?
— Еще бы! Всегда смеются над тобой, говорят о том, чего ты не понимаешь! «Как вам понравился вчерашний концерт, Регги?» «Что вы думаете о пьесе, Регги?» Всегда говорят со мной свысока. Как будто я только в спорте разбираюсь. Эй, подай-ка мне еще мартини!
Дверца автобара раскрылась, и Регги подхватил стакан, пролив половину содержимого на пол.
— Тьфу! В следующий раз не наполняй доверху!
Компьютер зарегистрировал команду.
— Как прикажете, сэр.
— Как прикаж-ж-жу, как прик-к... кажу! Когда ты делал, что я прикажу? — рявкнул Регги.
— Я изо всех сил стараюсь удовлетворить...
— Да? Тогда почему ты проповедуешь мне законы?
— Я не могу...
— Всегда берешь на себя управление, когда я пытаюсь вести, — рычал Регги. — Дай сюда приборы! Сейчас полетим по-настоящему! — он наклонился и включил ручное управление. — И не смей брать на себя!
В предвидении неразумных действий хозяина уровень напряжения в программе компьютера увеличился.
— Сэр, я полагаю, уровень содержания алкоголя в вашей крови...
— Не проповедуй мне о прелестях трезвости, я сказал! Двинули!
Четверть своей мощности компьютер переключил на приказы, отданные Регги, потом поискал в памяти, но не нашел приказа, запрещающего проповеди, проверил определение проповеди и пришел к заключению, что не совершал этого действия. Другая четверть мощности продолжала следить за поворотами и раскачиваниями машины, а оставшаяся половина пыталась разрешить противоречие между базовой программой и приказом Регги не брать на себя управление. Компьютер экстраполировал результаты варварского вождения, привел их в соответствие с возвышающимися вокруг небоскребами, напряженным вечерним движением и пришел к тревожному заключению.
— Сэр, если вы продолжите нынешний курс, вы неизбежно столкнетесь со зданием или с другой машиной!
— Заткнись, жестянка, и лови кайф от полета! — выпалил Регги. — Ты не лучше ее!
Компьютер видел, как приближающаяся машина заполняет поле зрения его рецепторов, рассчитал векторы сближения двух машин и заключил, что столкновение произойдет через 5,634 секунды (последующие цифры он округлил). Он хотел предупредить Регги, но этому мешал приказ «заткнуться». Компьютер взял бы на себя управление и избежал столкновения, но Регги запретил это. Таким образом, возникло противоречие между двумя аспектами программы: тем, который требовал обеспечить безопасность хозяина, и тем, который требовал повиновения. Конечно, он может нарушить приказ, чтобы спасти хозяина. Но есть ли необходимость в этом? Надо подумать. В конце концов, у него целых 5,634 (теперь уже 5,137) секунды. Для компьютера пять секунд — очень большое время, так что можно позволить себе подумать.
