Что остаётся? Информация. Рэй
Курцвейл в одной из своих публичных бесед с Грегори
Стоксом утверждал, что предельно тавтологическая реальность - это
структурированная информации. В обмене мнениями между Рэем
и Элизером Юдковским, где Элизер спрашивал его о том, как тот понимает ускорение
скорости прогресса вследствие обратной связи с ИИ. Рэй
ответил, что было бы трудно переоценить взрывную скорость удвоения
экспоненциального роста и что ИИ может оказаться одним из тех факторов, которые
приведут к продолжению закона Мура и после 2020 года.
Что-то такое
удивительное, такое невероятное, что-то абсолютно беспрецедентное в истории
должно случиться - Сингулярность. Три Сингулярные технологии,
такие как нанотехнология, сверхчеловеческий искусственный интеллект (СИИ) и
молекулярная биотехнология, превратят наш мир в рай, если только мы сумеем
избежать беспрецедентных опасностей, таящихся в самих же этих технологиях, а
именно - биоинженерные супервирусы, вооружения в виде
самореплицирующихся нанороботов, недружественные сверхразумные машины и
наибольшая опасность из всех - склонность к неограниченному бездумному
самоудовлетворению, зацикливанию на кайфомании.
Недоразумение, что
компьютерные программисты считают ИИ самым необходимым элементом – это всё из-за непонимания перспективы. Поговорите
с каким-нибудь исследователем, занятым изучением генетического кода. Он может наблюдать
экспоненциальный рост в своей области. Он может
представить удивительное будущее, которое эта технология способна предоставить
- полный контроль биологического дизайна живых организмов. И нанотехнология, и
генная инженерия дозреют к 2021 вне зависимости от того будет
ли создан ИИ или нет, и внезапно совершенно изменят общество.
Термин
"технологическая сингулярность" употребляется неверно. Более
правильным является термин "социальная сингулярность". На протяжении
всей истории новые технологии изменяли общество и хотя
люди отдают должное инициирующей природе
нововведений, однако наиболее значимым историческим аспектом всегда являлось то
как меняется общество.
Вот некоторые из
вещей, которые, как мы ожидаем, станут возможными после Сингулярности:
1. Зрелая
молекулярная нанотехнология приведёт к производству любых продуктов по цене
сырьевых материалов, например, к компьютеру по цене мешка песка. Производство ускорится и будет неограниченно увеличиваться. Качество
будет совершенствоваться вплоть до атомного уровня. Потребность во всех
необходимых материалы будет легко удовлетворяться. Молекулярная
нанотехнология также произведёт средства способствующие развитию молекулярной
биотехнологии и искусственного интеллекта. Нанотехнология создаст новые
материалы в пятьдесят раз более прочные, чем сталь, или с любыми
запроектированными свойствами, требуемыми для применения в космических
путешествиях, в больших конструкциях и инструментах.
