.
Я разделяю взгляд доктора Курцвейла на будущее компьютеров, которые смогут уподобиться мозгу человека, но – с Богом или без – я не думаю, что мы должны расплачиваться нашей человечностью за возможность обрести неограниченный небиологический интеллект. Мне кажется, что это плохая сделка, шаг назад, а не вперед, и в этой книге я попытаюсь объяснить, почему так твердо убежден в том, что человечеству не нужно вступать на этот путь.
Сейчас у компьютеров еще не хватает мощностей, необходимых для осуществления предсказаний Курцвейла. Чипы еще слишком большие, сети не настолько быстрые и электросеть не в состоянии обеспечить энергией машины подобной производительности. Разумеется, это всего лишь временные трудности, ведь мы каждый день слышим о новых прорывах в науке, а также подозреваем о секретных лабораториях, в которых проводятся инновационные разработки.
Нам нужно быть готовыми к сингулярности: открытыми, но способными к критике, научными, но гуманными, любопытными, но осторожными. Предпринимательский дух в нас не должен заглушать заботу о процветании общества.
Научная фантастика становится научной реальностью
Скоро машины уже смогут справляться с любым трудом – как физическим, так и умственным: понимать язык, различать сложные изображения или умело использовать наше тело, приспосабливая его к различным ситуациям. К этому времени мы уже, несомненно, будем полностью зависеть от машин во всех сферах жизни. Мы также будем свидетелями соединения человека и машины в одно целое благодаря таким технологиям, как дополненная реальность (ДР), виртуальная реальность (ВР), голограммы, импланты, интерфейс «мозг – компьютер» (ИММ) и создание частей тела с использованием нанотехнологий и синтетической биологии.
Кто же будет решать, что есть человек, когда в нашей крови будут плавать наноботы, а в мозгу будут установлены коммуникационные импланты? Если у технологий нет и не должно быть этики, что тогда случится с нашей моралью, нормами поведения и социальными договоренностями, когда машины будут управлять всем вместо нас?
Несмотря на заверения ИИ-евангелистов[17], я считаю, что в обозримом будущем машинный интеллект не будет снабжен эмоциональным интеллектом для решения этических дилемм, потому что машины – не живые существа, а дупликаты и симуляторы.
Разумеется, по прошествии некоторого времени машины научатся считывать, анализировать и, возможно, даже понимать наши системы ценностей, социальные контракты, мораль и верования – но они никогда не смогут стать частью этого мира и существовать в нем так, как в нем существуем мы (что немецкие философы называют бытием-в-мире (
