Гарвардский Некромант | страница 42
Таким образом, ассоциации между концепциями кодируются через физическое перекрытие нейронных подсетей, которыми они представлены в мозге. Разумеется, я сейчас все сильно упрощаю. Так или иначе, мы умеем создавать виртуальные нейронные сети с очень похожей архитектурой. Один из подходов называется глубоким обучением – он включает создание многослойных иерархических нейронных сетей, которые анализируют большие массивы данных. Слои более высокого уровня учатся представлять все более сложные и абстрактные концепции, закономерности или взаимодействия между ними.
Примерно так же человеческий мозг обрабатывает зрительную информацию: на самом низком уровне отдельные клетки сетчатки активируются фотонами, излученными или отраженными от пейзажа перед нашими глазами. Эти клетки передают информацию на следующий уровень. Там находятся нервные клетки, которые представляют простые концепции, такие как края, движущиеся границы, контраст, затемнение и тому подобное.
Информация от этих клеток объединяется в клетках более высокого иерархического уровня, представляющих более абстрактные концепции: лица, животные, автомобили и так далее. Есть классическая работа в журнале Nature Neuroscience, которая называется «Модель глубокого обучения в нейронауках». Ее авторы продемонстрировали сходство между тем, что мы знаем об архитектуре мозга, и нейронными сетями, используемыми в глубоком обучении. Эта идея вдохновила компьютерных специалистов усилить сходство еще больше. Оказалось, что обученные искусственные нейронные сети приобретают не только такие желаемые свойства человеческих нейронных сетей, как умение обучаться или обучаться обучению, но и своеобразные несовершенства вроде ошибок мышления и оптических иллюзий при обработке визуальных данных.
Архитектура нейронной сети РКК была создана по аналогии с архитектурой мозга человека и воплощала в себе принципы его работы. Ее объединили с методами машинного обучения под названием «состязательные генеративные сети». Они позволяют искусственным нейронным сетям соревноваться друг с другом, что приводит к эволюции их когнитивных способностей. Ранние примеры таких состязательных сетей представляли собой системы искусственного интеллекта, способные рисовать практически идеальные изображения, основанные на текстовых описаниях вроде «маленькая красная птица с желтым клювом сидит на темной ветке».
Сети, учившиеся рисовать картинки по описанию, соревновались с другими сетями, учившимися отличать настоящие фотографии от нарисованных. По мере совершенства систем одного типа приходилось подтягиваться их оппонентам, и со временем оба класса сетей совершенствовались. Похожим образом в природе коэволюционируют хищники и их жертвы: быстрые антилопы принуждают гепардов адаптироваться, бегать еще быстрее, что в свою очередь приводит к усилению отбора в пользу быстрых антилоп. Как говорил Ричард Докинз, эволюционная гонка вооружений. Положительная обратная связь.