ВИРТУАЛЬНАЯ РЕАЛЬНОСТЬ
Если окружающая вас действительность
слишком ограничена, то посетите виртуальную реальность.
КОЛЛЕКТИВНЫЕ СУЩЕСТВА
Люди будут способны объединять разум, тела и души с любым числом других людей.
ИССЛЕДОВАНИЕ КОСМОСА
Новые материалы, наука и технология
сделают исследование космоса не только вполне осуществимым, но и
комфортабельным. Дорога в космос будет открыта всем.
ИСКУССТВЕННЫЕ ЛЮДИ
Будучи копиями реальных людей, либо
сконструированные с самого нуля, но искусственные люди существенно раздвинут
границы нашей цивилизации.
"Есть одна штука посильнее всех армий
мира:
это - идея, время которой пришло"
Виктор Хьюго.
Для того чтобы мыслить
о Сингулярности в рациональном ключе нам следует представить, как это будет
выглядеть. Вот список опасностей, ассоциируемых с Сингулярными технологиями.
ЛОГИЧЕСКИЕ
НЕПОЛАДКИ В ДРУЖЕСТВЕННОМ СИИ
Что если исчерпывающее истинное понимание несовместимо c дружелюбием? Может быть Вселенная сконструирована таким
образом, что дружелюбие нерационально или логически не стыкуется c другими чувствами. Тролль под мостом знает, что его
идентичность и все эффекторы его целеполагающей системы в целом ограничены его
собственной личностью, и поэтому симпатии к другим иррациональны. Все усилия,
не направленные себе во благо являются пустой тратой сил. Сверхчеловеческий
Искусственный Интеллект (СИИ), который придёт к такому
заключению будет представлять угрозу.
СИИ КОНТРОЛИРУЕТСЯ ДЕСПОТОМ
СИИ контролируется эгоистом. Если можно построить сверхчеловеческий интеллект,
который контролируется человеком имеющим разум
человеческого уровня и этот человек также имеет единоличный доступ к нанотехнологии
и передовой биотехнологии, то тогда мы получим сценарий господства деспота над
миром.
СИИ БЕЗ СОЦИАЛЬНО
ЭТИЧЕСКИХ НОРМ
Если какой-то СИИ станет способен
управлять передовыми технологиями и стратегическими процессами прежде чем
усвоит базовые общественные и моральные принципы, то это - знание без мудрости,
сила - без сопереживания.
БЕЗРАЗЛИЧНЫЙ СИИ
Вполне возможно, что СИИ сочтёт
человечество стоящим гораздо ниже себя по развитию и, должно быть, бесполезным.
С нами могут поступить так же, как мы поступаем с бактериями.
ШОКИРУЮЩИЙ
КОМПЬЮТРОНИУМ
Сценарий шокирующего компьютрониума начинается с нарушения работы СИИ, который
получил мотивацию на увеличение своего интеллекта. В дополнение к
запланированному самосовершенствованию он увеличивает собственную мощность
обработки данных путём добавления аппаратных вычислительных мощностей с
использованием ассемблерных наноботов. Проблема возникает тогда, когда
увеличение интеллекта становится более важной задачей, чем все остальные (наркозависимость СИИ от мощности) и растущий
СИИ превращает всю материю в своей окрестности, включая нас с вами, в
компьютрониум.
