к тем, что уже имеются в мозгу, то проблема становится куда как более неприступной. Просто воткнуть в мозг сетку широкополосных приемников будет явно недостаточно. Но предположим, что эта высокоскоростная сетка встраивается в существующие структуры мозга в момент их образования, при развитии эмбриона. Это предполагает:
– эксперименты на эмбрионах животных. Я не стал бы ожидать каких бы то ни было успехов УИ в первые годы таких исследований, но доступ развивающегося мозга к сложной имитации нейроструктуры может быть очень интересен для тех, кто занимается развитием мозга эмбриона. В долгосрочной перспективе такие эксперименты могут дать животных с дополнительными органами чувств и интересными интеллектуальными способностями.
Изначально я питал надежду, что эта дискуссия на тему УИ выявит некоторые более безопасные подходы к Сингулярности (ведь УИ допускает наше участие в некоторых видах такого перехода). К сожалению, оглядываясь на эти предложения относительно УИ, я уверен только в том, что их следует рассматривать, что они могут открыть нам новые возможности. Однако, что касается их безопасности… некоторые предложения с виду страшноваты. Один из моих неформальных рецензентов указал, что УИ для отдельных людей создает довольно-таки зловещую элиту. У нас, людей, миллионы лет эволюционного багажа, который заставляет нас относиться к конкурентам безжалостно. Возможно, эта безжалостность уже почти не нужна в современном мире, в котором проигравшие перенимают приемы выигравших и кооптируются в предприятия победителей. Создание, которое будет построено de novo, может оказаться существенно более благожелательной сущностью, нежели то, у которого в основе поведения – когти и клыки. И даже вид равноправного Интернета, проснувшегося вместе со всем человечеством, может считаться кошмаром [25].
Проблема не в том, что Сингулярность представляет собой просто уход человечества с авансцены, а в том, что она противоречит нашим глубочайшим концепциям бытия. Я думаю, что более пристальное рассмотрение понятия «сильно сверхчеловеческого» может показать нам, почему это так.
«Сильно сверхчеловеческое» и лучшее, чего мы могли бы просить
Допустим, что мы можем скроить Сингулярность по своим меркам. Допустим, что мы можем воплотить самые причудливые свои надежды. Чего тогда мы будем просить: чтобы люди сами по себе стали своими наследниками, чтобы любая совершающаяся несправедливость была смягчена нашим знанием собственных корней? Для тех, кто останется неизмененным, целью будет хорошее обращение (может быть, даже придание оставшимся позади видимости повелителей богоподобных рабов). Это может быть золотой век, который при этом подразумевает прогресс (переход через барьер Стента). Бессмертие (или хотя бы долгожитие в течение того времени, пока мы не дадим вселенной погибнуть [9], [3]) тоже станет достижимым.
