Была даже разработана система, позволяющая с точки зрения этики оценивать допустимость той или иной тактики или стратегии продаж в электронной коммерции[62]. Изначально в компьютерную программу этические нормы заложены не были, однако, получая обратную связь и приобретая опыт, система «узнавала», что утаивание информации, или не соответствующие действительности сведения о продуктах, или сокрытие от клиента предстоящих ему реальных расходов – неэтичны. Одновременно система училась распознавать, что именно считается признаком неэтичных действий. То есть осваивала этические принципы, сталкиваясь с конкретными примерами, делая выводы и получая обратную связь. В частности, обучившись тому, что неэтично скрывать информацию об ограниченном сроке годности батареи ноутбука, программа начинала распознавать в качестве неэтичного утаивание информации о годовых расходах на эксплуатацию стиральной машины, имеющей низкую энергоэффективность.
В целом, подобные самообучающиеся системы действуют так, как если бы они следовали набору правил, заданных разработчиками. Но на самом деле в этих системах не существует никаких правил. Правила воплощаются в связях между элементами. В частности, интересны и хорошо изучены примеры систем, нацеленных на обучение компьютеров грамматике и демонстрирующих способность понимать и производить цепочки слов, соответствующих правилам английской грамматики – хотя никто никогда эти правила в данные системы не вводил. Можно научить компьютер вести себя так, как будто ему известен способ перевода глагола настоящего времени в глагол прошедшего (добавив «…ed» в конце), не загружая в него непосредственно эту информацию. Такие программы как бы следуют грамматическим правилам – хотя правила эти никоим образом в подобных программах не присутствуют.
В каждом из описанных случаев исследователи использовали для обучения системы сырой материал (вводные данные). Ни разу системе не сообщалось, что искать и что делать. Система самостоятельно узнавала то, чего не знал (или в принципе не мог знать) обучающий и что он, соответственно, не мог запрограммировать. Для ученых, исследующих когнитивные процессы, способность вычислительных систем использовать предоставленный людьми опыт и на его основе учиться распознавать паттерны является главным доказательством того, что интеллект работает подобным же образом. Поэтому вычислительные системы, помимо решения практических проблем, используются в качестве моделей работы человеческого разума.
