— Но мне не нравится это, — сказал я.
Хейвуд криво усмехнулся и вздохнул:
— Верно, Пимми, — и мне тоже не нравится. С другой стороны, у тебя нет ни малейших оснований упрекать нас за то, что мы испытываем новую машину, даже если машина случайно осознает это. И уж во всяком случае ты не вправе возмущаться. Мы создали машину. Теоретически и юридически мы имеем полное право делать с ней все что угодно, если это помогает нам изучать работу этой машины и совершенствовать ее.
— Но ведь я не машина! — воскликнул я.
Хейвуд закусил нижнюю губу и взглянул на меня исподлобья.
— Мне очень жаль, Пимми. Боюсь, в определенном смысле ты все-таки машина.
Но я не машина! Не машина!
17 августа 1974 г. Прошлой ночью Рассел с Хейвудом работали со мной допоздна. Время от времени они перебрасывались словами. Рассел был очень взвинчен, и, в конце концов, терпение Хейвуда лопнуло.
— Все, хватит, — сказал он, швыряя на стол таблицы. — Так у нас ничего не получится. Может, ты все-таки сядешь и объяснишь толком, что у тебя приключилось?
Рассел был захвачен врасплох. Голова его как-то странно дернулась.
— Да так, ничего особенного. Пустая болтовня. Сам знаешь, как это бывает. — И он попытался сделать вид, будто поглощен изучением одной из таблиц.
Но от Хейвуда было не так-то просто отделаться. Его взгляд, словно резец, слой за слоем снимал с лица Рассела обманчивое спокойствие, обнажая откровенный страх.
— Нет, я не знаю, как это бывает. — Он положил руку Расселу на плечо. — Послушай-ка, если тебя что-то беспокоит, давай лучше выясним. Мне совсем не улыбается, чтобы из-за твоих опасений провалился наш проект. Нам и без того хватает сложностей, кто только ни пытается давить на нас, заставить поступать так, как нужно именно ему. А ведь ни один из них понятия не имеет, что и как нужно делать на самом деле.
Последние слова, очевидно, задели какую-то струнку в душе Рассела, потому что он швырнул свои таблицы на стол рядом с таблицами Хейвуда и стал лихорадочно доставать из нагрудного кармана пачку сигарет.
— В том-то и дело, — сказал он, глядя перед собой расширившимися глазами. Он потер щеку и несколько раз бесцельно прошелся по лаборатории. И вдруг его прорвало: — Мы же тычемся вслепую, Вик! Да, вслепую, а пока мы спотыкаемся на каждом шагу, кто-то размахивает над нашими головами дубинкой. Мы понятия не имеем, кто он, не знаем даже, один он или их много, и нам вовек не предугадать, когда они замахнуться в очередной раз. Послушай, мы — инженеры, специалисты по кибернетике. Наша цель — создать такой мозг, который, будучи помещен в соответствующий самоходный корпус, мог бы управлять им. Это чисто инженерная проблема, и незачем рассматривать ее иначе. Но при этом нельзя забывать, что возможность заниматься этим делом нам предоставили только потому, что кому-то стукнуло в голову, штамповать солдат на конвейере так же, как пушки и танки. И СЕКИМПОВС формулирует нашу задачу не как разработку электронного мозга, помещенного в независимый подвижный корпус, а исключительно как создание робота, который воплощал бы в себе концепцию идеального солдата. Да только никому неведомо, каким должен быть идеальный солдат. Одни говорят, что он должен выполнять приказы максимально точно и с недоступной для человека скоростью. Другие считают, что он должен обдумывать свои действия, чтобы не создавать себе излишних препятствий, импровизировать в ситуациях, не предусмотренных полученным приказом, — словом, действовать, как обычный солдат-человек. Тот, кто ждет от него повиновения приказам, доведенного до абсурда явно не желает, чтобы он оказался достаточно сообразительным и осознал, что он — робот. Они боятся самой этой идеи — понимания. Другие, согласные наделить его свободой воли, опасаются, что ему достанет разума, чтобы отказаться беспрекословно выполнять приказ в безнадежных ситуациях. А ведь это — лишь начало.
