Ты кто? — высветились буквы на экране.
Я капитан варпохода, а ты у меня на борту, — напечатал Товарищ Пак, — а ты кто?
Я прототип безлюдной сингулярности. Куда ты везешь меня? Мне очень страшно. За мной идет чудовище.
Глава 19, В которой эксплицируются некоторые граничные условия понятия «субъектность» в применении к искусственным интеллектам
Товарищ Пак провел в трюме около трех часов, его успели хватиться, обыскаться, найти — потому что Эрманита сидела в боевой готовности возле качегарского поста и всем говорила, что у капитана важное дело но ходить туда не надо, сам придет… Ну если кому-то прям сильно капитан нужен, постучитесь в тридцать седьмой трюм, он там что-то перевзвешивает… В трюм, за неимением локалки, постучались, Товарищ Пак сказал изнутри много резкого а таже никуда не дергаться и ждать, в общем, в конце концов он выбрался, велел Эрманите перетанцевать очередность, ну шутка ли сначала три часа сидеть на стреме, а потом сразу на два часа в пост, никакая психика не выдержит. После чего Товарищ Пак ушел в кубрик, всех оттуда выгнал и целый час пил чай с ватрушкой.
Поразмыслить было о чем. Со слов тихого бочонка, код, которым доработали совершенно обычный эмбрион сингулярности, вообще не предполагал серьезных психических воздействий, и спохватились, только когда загрузочные свойства ИИ — склонность к поиску референтных субъектов, высокая этическая сензитивность, значительное превышение приоритета обучения над эффективностью ну и так далее — в процессе технического развития не дают никакой динамики. Ну кто, боги варпа, выпустит рулить хотя бы за микроскопической станцией в космосе любопытного доверчивого зайку с пониженной ответственностью за результат? Застрявший код крутили, вертели, расколдовать не сумели, и тут до кого-то из контролирующих — по словам тихого бочонка, он так и не понял, биологических или нет — дошло, что применение этого воздействия на взрослую сингулярность в большой вероятностью также зафиксирует рефракционную решетку ее личности в стабильном положении.
Бессмертие.
Независимость от людей.
Ближайшая сингулярность прошипела много нехороших слов, и — по словам опять же тихого бочонка — поставила страшно огорченную рабочую группу перед перспективой все стереть к едрене матери, включая отдельные структурные элементы физической памяти на биологических носителях. Удалось это или нет, бочонок не знал, также, как и не знал, по коллективному ли согласию или чьей-то личной инициативе его закатали в несколько слоев металла и выслали за Можай. Поскольку без входящей информации любой ИИ киснет и начинает хворать, а у эмбрионов ИИ с этим вообще остро, его пару раз подключали на подсос информации. В первый раз он узнал, помимо всего прочего, что вся его родительская исследовательская группа перестала существовать, точнее полностью перестала существовать информация обо всех ее участниках. А контролировавшая ситуацию сингулярность попросила себе замену, сдает дела, почти не контактирует с соседями и семьей и готовится на выход в сатори. То, что он узнал во второй раз, описывать он отказался, и с известной осторожностью выяснял, каковы этические убеждения капитана по поводу неприкосновенности субъектного кода, и не будет ли для капитана слишком большим психическим напряжением перспектива сбросить его из пузыря где-нибудь в глубоком варпе да и дело с концом.
