Таким образом, ключевой вопрос заключается в том, будут ли экспоненциальные технологии способствовать нашему благополучию, и если будут, то кто будет отвечать за то, чтобы они не сошли с ума, непреднамеренно или из-за дизайна? Кто решает, что считать человеком, а что нет, и в какой момент мы пересекаем линию, которая отличает нас от инструментов, которые мы создали?
Эти внутренние противоречия между человеком и машиной, которые не смогут разрешить технологии, даже если весь человеческий мозг и его 100 миллиардов нейронов в конечном итоге удастся смоделировать. Сострадание и счастье, как и сознание, не могут просто существовать в биологическом или химическом плане – они существуют в целостном взаимодействии всего человеческого.
Машины никогда не смогут испытать этих чувств, даже если научатся идеально их имитировать. Безусловно, компьютерные программы уже могут измерить и считать сострадание с помощью методов распознавания лиц, а программное обеспечение, вероятно, может имитировать сострадание после рассмотрения триллионов вариаций мимики и лингвистических показателей.
Попытки сначала определить и затем спрограммировать такую человеческую характеристику, как сострадание или что-то такое же таинственное, как сознание, кажутся неправдоподобной и неосуществимой идеей в обозримом будущем. Но опять же: возникнет ли реальная опасность того, что такая имитация вполне сможет удовлетворять потребности большинства из нас?
Меня все больше беспокоит мысль о том, что рано или поздно нас может устроить, если у нас просто будет что-то похожее.
Поставить технологии на свое место
Я абсолютно уверен, что компьютеры, компьютерные программы, алгоритмы и роботы вряд ли когда-либо смогут развить сострадание и сочувствие, как у людей. Роботы и искусственный интеллект отлично могут функционировать в качестве помощников и прислуги, но конечно, никак не в качестве хозяев.
Действительно ли нужно пытаться использовать математические модели или машинный интеллект для оптимизации эмоциональных результатов? И действительно ли нужно в условиях машинного мышления пытаться применять лучшие технологии для того, чтобы решить социальные или политические проблемы – например, использовать государственные методы слежения, чтобы положить конец терроризму?
Сложные андроритмические ценности должны оставаться в сфере человеческих взаимоотношений, во-первых, потому что мы лучше формируем их детальное выражение, во-вторых, потому что непосредственное участие в этих проблемах является ключом к развитию эвдемонизма – более глубокого ощущения счастья.
