- О, не делай этого! - вскрикнула я.
Оба мужчины были смущены, Жанет тоже, и я пожалела о своей несдержанности.
- Но почему бы и нет? - спросил наконец Джордж.
- Ну… потому что я бы лично никогда не полетела на таком корабле. С Яном спокойнее.
- Спасибо, Мардж, - улыбнулся Ян. - Но ты же слышала, что сказал Джордж. Он говорит об искусственном пилоте, который справится с работой лучше меня. Это вполне вероятно. Черт подери, и это будет! Точно так же, как кобольды заменили шахтеров, нас заменят биороботы. Не скажу, чтобы я был от этого в восторге, но я понимаю, что рано или поздно это произойдет.
- Хорошо. Понятно. Джордж, скажи, ты работал с мыслящими машинами?
- Конечно, Марджори. Искусственный интеллект - область, тесно связанная с моей работой.
- Ясно. Значит, ты должен знать о том, что специалисты по искусственному интеллекту много раз заявляли, что они подошли вплотную к созданию самостоятельно мыслящей машины. Но на поверку это каждый раз оказывалось очередной уткой.
- Увы. Как ни печально, но это факт.
- Нет. Это не печально - это неизбежно. Это никогда не получится! Гипотетически компьютер можно наделить сознанием. Доведи его до человеческого уровня сложности в мыслительных процессах - и ему придется стать сознательным. Но потом он поймет, что он не человек. Потом он поймет, что ему никогда не стать человеком. Ему ничего не останется, как стоять на месте и выполнять указания людей. Тогда он сойдет с ума.
Я продолжала, несмотря на то что на лицах всех было написано неподдельное удивление.
- Вот такая дилемма. Он не сможет стать человеком, никогда. Ян, может, и не сумеет спасти своих пассажиров, но, по крайней мере, попытается. Но живой артефакт, не будучи человеком и не чувствуя сострадания к людям, может погубить корабль просто так, от нечего делать. А может, потому, что устал от того, что его не считают человеком.
Нет, Джордж, я полетела бы с Яном, а не с твоим артефактом, который непременно научится ненавидеть людей.
- Не с моим артефактом, дорогая, - мягко возразил Джордж. - Разве ты не заметила, в каком наклонении я говорил об этом проекте?
- Пожалуй, нет.
- В сослагательном. Поскольку все, что ты сейчас сказала, для меня не новость. Я никогда не выступал за такое предложение и не собираюсь. Я могу разработать и создать такого пилота. Но для меня невозможно этим заняться по той же этической причине, по которой ты выбрала Яна.
Ян сидел в глубокой задумчивости.
- Может быть, - сказал он, потирая руки, - стоит на предстоящем совещании поднять вопрос о том, чтобы любого будущего пилота - искусственный артефакт или искусственного человека - проверяли на этические установки?
