Логично, что когда нейросети перешли от более чистого, но и более машинного суждения по дифференциальным признакам к суждению через сравнение со стереотипами, из них полезли ошибки.
Тут всё понятно.
Заинтересовало исследователей другое. Они неожиданно обнаружили, что при определённом объёме входящих данных алгоритмы выходят на плато развития. Казалось бы, у цифровой системы, не ограниченной, как мозг живого человека, объёмом вычислительных мощностей и тому подобным бренным миром, не должно быть сложностей с тем, чтобы стремить свой полёт всё выше и выше; об этом, грозя крючковатыми пальцами, предупреждали нас фантасты-алармисты – мол, понаучите роботов на свою голову, а они превзойдут человечество, экспоненциально умнея с каждым новым байтом, что вы им скормите.
Но нет. Нейросети, данные в которых наращивались и структурировались по принципам, схожим с устройством живых мозгов, почему-то упирались в потолок, и с определённого момента КПД их обучения начинал падать, а вычислительные мощности зацикливались на многократной реструктуризации и переосмыслении уже полученных знаний. Грубо говоря, для того чтобы овладеть ещё одним дифференциальным принципом, отличающим кошку от собаки, такая сеть заново «обдумывала», что есть кошка и что есть собака. И порой ставила под сомнение факты, уже установленные раньше, причём совершенно без видимых причин.
Связано это было именно с интенсивностью подачи новых данных. Если информацию предоставляли сети стабильно, плато не возникало, а вот если её было то густо, то пусто, либо если ввод данных вёлся во много потоков сразу, алгоритмы будто замыкались в себе и переключались на пласт переосмысления старого.
Такое метамышление можно назвать и «сознанием».
Некоторые с восторгом это и сделали. В конце концов, отмечали они, одна из гипотез о том, как возникло человеческое сознание, гласит, что это система, необходимая нам, чтобы регулировать конфликтующую информацию о внешнем мире. Чисто рефлекторное существо чихает, когда у него засвербит в носу. Существо чуть более продвинутое способно подавить этот рефлекс, если у него перед лицом стенка. А спустя многие поколения из него вылупляется существо совсем умное – способное, скажем, понять, что стенка эта – шкафа, куда оно спряталось, потому что по дому его бродит маньяк, так что чихать сейчас совершенно точно не надо.
Это, конечно, карикатура. Суть в любом случае в том, что метамышление нужно, чтобы приоритизировать и регулировать мышление обычное, не давать ему происходить стихийно.
