. Меня часто спрашивают, что же страшного в привлекательности технологий. Попробую ответить.
Экспоненциальные технологии, как и атомные бомбы, провоцируют целую цепочку проблем
Я считаю, что сегодня мы находимся в точке поворота на экспоненциальной кривой и у подножия поворота истории. В какой-то степени наши ученые и инженеры-технологи сейчас оказались в той же ситуации, что в свое время Альберт Эйнштейн. Несмотря на то что он считал себя пацифистом, в 1939–1940 годах он убеждал президента Рузвельта не затягивать с разработкой атомной бомбы, чтобы не оказаться вторыми после немцев. В 1941 году Эйнштейн непреднамеренно поспособствовал развитию атомной бомбы, решив некоторые сложные математические задачи, с которыми не мог справиться Вэнивар Буш[80] и которые препятствовали развитию ядерной программы США>107.
Историк Даг Лонг[81] комментирует ситуацию следующим образом:
Биограф Эйнштейна, Рональд Кларк, утверждает, что атомную бомбу создали бы и без писем ученого, но наверняка не так быстро, чтобы можно было применить ее в войне против Японии>108.
В ноябре 1954-го, за пять месяцев до своей смерти, Эйнштейн так отозвался о своей роли в создании атомной бомбы:
В своей жизни я совершил одну большую ошибку. Это произошло тогда, когда я подписал письмо президенту Рузвельту и предложил создать атомную бомбу. Единственным, что оправдывает тот шаг, была опасность, что атомную бомбу сделают и немцы>109.
Человеческий дух должен цениться выше достижений прогресса.
– Альберт Эйнштейн>110
Аргументы, похожие на те, которые оправдывают Эйнштейна в 1939-м, сейчас звучат в поддержку разработки многообещающих экспоненциальных технологий: общего искусственного интеллекта[82], геоинженерии (с ее помощью можно будет контролировать погоду), автономных систем вооружения, редактирования человеческих генов. Самые распространенные из них звучат так: «если мы этого не сделаем, то это сделает кто-то другой (возможно, злодей) и оставит нас позади», «кроме опасностей, эти технологии также принесут миру большую пользу – глупо было бы этим не воспользоваться», «невозможно отменить изобретение или перестать изобретать совсем – стремление к творению заключено в человеческой природе».
Мой ответ всегда одинаков: технологии не являются злом или благом, они просто есть. Это мы должны определить, здесь и сейчас, как можно использовать технологии во благо и как избежать их использования во зло.
Пока вы это читаете, ученые изобретают и тестируют технологии мощнее атомной энергии и ядерного оружия. Резких прорывов не избежать, и прогресс невозможно остановить, просто указав на то, что нам необходимо применить к нему превентивный принцип и убедиться, что все эти новые технологии прежде всего безопасны (см. главу 8).
