Рассвет Сингулярности | страница 17
Предлагаемый метод самомодификации состоит в следующем:
При выполнении программы Prog1 она пытается сгенерировать такие варианты поведения, которые повышают удовлетворение от продвижения к цели. Используя кодовую модальность и аналогичный Prog1 дизайн интеллектуального агента, программа Prog2 наблюдает за ходом работы Prog1 и пытается сгенерировать логические изменения в Prog1, которые повысят эффективность Prog1. Prog3 наблюдает за ходом работы Prog2 и пытается сгенерировать логические изменения в Prog2, которые повысят эффективность Prog2. Поскольку Prog3 идентична Prog2, то любые изменения, передаваемые из Prog3 в Prog2, также реализуются и в Prog3. То есть, идёт рекурсивное самосовершенствование.
Итак. Программа Prog1 задаёт поведение. Программа Prog2 изменяет программу Prog1. Программа Prog3 изменяет программу Prog2, а поскольку программа Prog3 идентична программе Prog2, то изменения программы Prog3, передаваемые программе Prog2 также передаются и программе Prog3.
Работа модулей осуществляется непрерывно в параллельном режиме с использованием текущих данных, поступающих от входных модулей.
Модель способна лишь модифицировать свои познавательные алгоритмы, а не всю структуру программы, что ограничивает её как статическое средство.
Если система будет запущена в ограниченной среде, то она оптимизирует себя в этой среде. Если она будет запущено в комплексной расширенной среде, то она оптимизирует себя для этой среды.
Самое эффективное развитие происходит тогда, когда работа начинается в строго ограниченном и простом подмножестве объективной среды, а после расширения масштаба и сложности этой среды система берёт на себя управление причинными связями подмножеств. Подмножества должны расширяться в смежные причинно обусловленные области.
Причина разделения имитационного анализа на обучение, предсказание, начало и конец оптимизации заключается в необходимости предохранить программу от зацикливания на эйфории, желания модифицировать себя таким образом, что интерпретация сенсорных данных станет более важной составляющей её функционирования в сравнении с реально существующей целью.
Составные части программы, ответственные за эффективную интерпретацию и детерминизм в достижении цели, не могут быть изменены теми частями программы, в которых заложена мотивация к увеличению скорости достижения цели.
ЗАКЛЮЧЕНИЕ
Что касается того, почему программа модифицирует лишь познавательные алгоритмы, а не саму структуру программы, то я целенаправленно пытался достичь более простой цели проектирования интеллектуального средства на уровне отсутствия самосознания и собственной мотивации, как более реально достижимой стартовой точки в деле создания семени ИИ.