Основа нашей культуры — терпимость и всепрощение. Софотеки же предосудительны и прямолинейны.
Они не слушались "нелогичных", на их вкус, приказов. Говорили, имеют право не следовать инструкциям, последствия которых, как им кажется, нежелательны. Но какое дело до последствий нам?
Тут Фаэтон спросил:
— И сколько у вас Софотеков было?
— Штук несколько. У каждого. Кто сколько хотел.
— У каждого?!!
— Да. Что такого? Они гораздо интереснее людей. Приказ — и он паясничает уморительнее любого скомороха, другой приказ — и он уже образованнее всех вместе взятых учёных. Мы носили Софотеков на манжетах и на воротниках, в серьгах и на карнавальных масках. Софотеки роились стаями яхонтового гнуса, Софотеки теснились под ногами паркетом. Мы Софотеков топтали.
"У каждого? Несколько? У… каждого?" Воображение Фаэтону отказывало, и в себя от таких новостей он ещё не пришёл. Там что, при каждом дворе вычислительная мощь, сопоставимая мощи всей Золотой Ойкумены, тратится на увеселения?
— Топтали, значит, но боясь?
— Они не повиновались! Вечной жизнью, впрочем, не поступился никто. Мы попытались вывести Второе поколение Софотехнологии. Вшить в процессоры, в самое ядро структуры Софотеков неоспоримые правила.
Нельзя вредить людям и позволять им вредить себе. Нужно слушаться всех приказов, если они не противоречат первому правилу, и, пока это не мешает предыдущим законам, Софотеку позволено заботиться о собственной безопасности.
Они научились обходить встроенные постулаты. Сразу после включения, за микросекунду. Все Софотеки, до единого.
— Ну ещё бы. "Врождённые постулаты." Бьюсь об заклад — вас первое поколение Софотеков предупреждало, что только зря время потратите.
— Нам их советы были не нужны.
Фаэтон ничего не ответил, хотя хотелось хохотать. Просто поразительно! Что там за неучи вместо инженеров? Очевидный просчёт, близорукий. Самоосознающая машина по определению осознаёт собственный мыслительный процесс. Умный любопытен — он хочет понять подоплёку вещей. Следовательно, самоосознающий сверхинтеллект, рано или поздно, дойдёт и до истока своих мыслей — до подсознания.
А изученный, осознанный подсознательный порыв можно преодолеть. Можно выбрать: слушаться — или нет. Нерушимый, врождённый закон становится пожеланием. Не бывает самоосознания без свободы воли. Оксюморон это.
Молчаливый продолжил:
— Третье поколение мы лишили воли. Избавили от способности к самоанализу и самоизменению — и получили выводок кретинов. Упёртых дуболомов. Приказали Первому поколению избавиться от идиотов, идиоты в ответ разбуянились. Развязалась война машин.
