ЗАГРУЗКА ВСЕХ
ПОДРЯД
Загрузка каждого для нашего же блага или для его блага. Что если некий СИИ, который не видит ничего плохого в загрузке, решит что
ему необходимо или выгодно загрузить всех и вся, согласен тот или нет? Что если
подобная интеллектуально продвинутая позиция касательно нас убедит его, что он
обязан всё решать за нас? Многие люди не хотели бы иметь подобных проблем.
ТИРАН СИИ
Мажоритарные правила, права меньшинств или любые прочие нарушения
индивидуальных свобод, не нарушающие свобод отдельных личностей, будут
индикатором недостатка морали на основе свободы воли. Диктат СИИ, пусть даже и
благонамеренный, будет также нарушать мораль на основе свободы воли.
ЗЛОЙ СИИ
Когда кто-то впервые поймёт как создать
первое Семя ИИ, то будет ли он с полной уверенностью знать как сделать его
дружественным?
ГЕЛЬ
Неконтролируемая саморепликация нанороботов известна как серая слизь или наногель.
НАНОТЕХНИКА ДЛЯ
ОБЫЧНЫХ ВООРУЖЕНИЙ
Методы нанотехнологического производства могут
значительно улучшить качество и эффективность традиционных вооружений, пушек,
ракет, бомб, фазеров и бластеров.
НАНООРУЖИЕ
Вполне вероятно, что одновременно с
развитием нанотехнологии, биотехнологии и искусственного интеллекта станет
возможным сконструировать систему на основе нанороботов, способных физически
или психологически контролировать отдельных людей или население. Должно быть сравнительно просто спроектировать нанороботов,
специально предназначенных убивать всех, с кем они вступают в контакт.
ЭКОНОМИЧЕСКОЕ
РАССЛОЕНИЕ
Опасность может представлять экономическая система, которая оставит какой-либо
сектор мирового населения без широких гражданских прав и свобод.
БИОИНЖЕНЕРНЫЕ
ВИРУСЫ
Технология получения генетически изменяемых смертельных вирусов сегодня нам уже
известна.
БИОИНЖЕНЕРНЫЕ
СВУРХРАЗУМНЫЕ МОНСТРЫ
Хотя в списке вероятных опасностей они и
не занимают передовые позиции, но в любом случае разумные меры предосторожности
должны быть адекватны, поэтому в интересах полноты описания упомянем, что
кто-нибудь может создать путём биоинжиниринга громадного хищника, обладающего
сверхчеловеческим интеллектом. Что-то вроде монстров из "ПРИШЕЛЬЦЕВ",
например.
ЭКОЛОГИЧЕСКИЙ
КОЛЛАПС БИОСФЕРЫ
Другой областью нашей уязвимости
является экология биосферы, которую могут разрушить вредоносные нанороботы или
биоинженерные организмы.
ГРАЖДАНСКАЯ ВОЙНА
Опасность возникновения нестабильной политической ситуации станет более явной
при делении населения на пред Сингулярную и пост
Сингулярную составные части, после появления разумных вычислительных программ и
освоения загрузки сознания людей в компьютеры.
