Я уверен, что как количество, так и качество этих программ, обычно ориентированных на очередные поколения параллельно работающих компьютеров, а также на смешанные соединения псевдонейронных сетей, будут достигать все большего уровня точности и тем самым будут все лучше имитировать присутствие обладающего умом сознания, которое многими людьми будет восприниматься как индивид или как воплощенная в машине индивидуальность. В определенном смысле это будет обман людей как собеседников или сотрудников машиной, так как настоящим, присущим личности, сознательным интеллектом, называемым психической жизнью, имитаторы этого типа еще обладать не будут. Следует уяснить себе, что эта дорога ведет к нагромождению трудностей, которые в моем «Големе» я назвал hill climbing toposophical theory[28]. Речь идет о вступлении на территорию, пока недоступную для механических пришельцев, которая находится в наших черепах. Невозможен некий неожиданный скачок от полностью безвольного устройства, пусть даже иногда оказывающего сопротивление, которое мы скорее склонны назвать ослиным упрямством и которое известно пользователям зависающих компьютеров. Прогрессирующая компактность (сжатие) информационных носителей, которые будут все более совершенными эквивалентами твердых дисков, не может обеспечить абсолютную безошибочность. Одна логическая ошибка на миллиард элементарных вычислений – это доказанный недостаток самых быстрых машин, обладающих наибольшей вычислительной мощностью. Не вдаваясь в подробности, скажу только, что за растущую, даже постепенно, быстроту операций надо платить появлением ошибок; быстрота операций, перевалив за биллион логических шагов, начинает душить логически измеримую, ранее признаваемую совершенной безошибочность системы.
Мозг наш является, как сказал фон Нейман, совершенной системой, созданной из несовершенных нейронных элементов. Это еще и потому, что к каждому закодированному в человеческой памяти понятию ведет разнообразное количество дорог. Например, если я не могу вспомнить, как называется всем известная птица с красиво выгнутой шеей, то я мог бы выбирать из памяти правильное название (лебедь) или начинать припоминать обороты типа «лебединая песня», или даже балет «Лебединое озеро». А к находящимся в памяти компьютера «энграммам» обычно ведет одна дорога, поэтому ее блокировка приводит к полной «амнезии» компьютера. Подобных проблем, противостоять которым может только значительный охват сетями элементов памяти, будет множество. Тем более что у самих людей есть трудности с припоминанием названий, таких, как фамилии, потому что количество их пересечений со всем запасом нашей языковой идиоматики, вообще говоря, скромное. Надо также понимать, что от так называемого
