Как я писал в «Сумме технологии», конструктора интересует не то, есть ли сознание у машины, а лишь то, правильно ли она функционирует. Все, что мы знаем о внесознательном автоматизме, а также о бессознательной активности инстинктов, позволяет нам считать возможным изучение сложных систем (например, нейронных сетей), когда, зная, что находится на входе, а что – на выходе системы таких сетей, мы можем не знать, что происходит в самой сети. Пока мы не слишком далеко продвинулись от компьютерных программ Винограда, при помощи оптических датчиков и рецепторов выполнявших поручения типа: «скажи, сколько геометрических тел стоит на столе» или «поставь конус на куб» и т.д. Сейчас нам с триумфом объявляют, что робот, который умеет подняться по лестнице или спуститься с нее, может самостоятельно ориентироваться в лабораторном окружении. Однако я бы не сказал, что его уже можно сравнить по умственному развитию с полуторагодовалым ребенком, который еще не разговаривает. Тем временем энтузиасты Artificial Intelligence хотят уже в следующих поколениях роботов видеть если еще не Эйнштейнов, то по меньшей мере официантов или домашних охранников. А ведь как с охранником, так и с официантом можно поболтать на политические или экономические темы. В моих глазах поборники AI сегодня напоминают скорее группы цирковых акробатов, намного более проворных, чем зрители, поскольку они способны выполнять прыжки в воздухе с трапеции на трапецию. Это неоспоримое мастерство sui generis, но оно не должно в каждом случае находиться под сосредоточенным вниманием сознания. Хотя я приписывал машинным системам будущего способность лингвистической артикуляции, и, следовательно, искусство ведения разговоров с человеком в рамках определенной тематики, но не стал бы сравнивать эту способность со свободой речи неквалифицированного разнорабочего или кухарки. Ведь не упоминалась немаловажная проблема, заключающаяся в том, что способность отличить в разговоре искусно запрограммированный компьютер от человека в очень большой, а точнее, в различной степени зависит от интеллектуального уровня собеседника-человека. Из трудов Вейзенбаума мы узнали, между прочим, что его псевдопсихологической программе Eliza удавалось обмануть даже тех людей, которые знали, что ни один человек и ни один разум не стоят за произносимыми вопросами и ответами. Однако психологическое заблуждение, вызванное антропоморфической проекцией, приводило к тому, что, например, секретарша, которой программа
