В итоге карту этого сервиса утвердили и опубликовали на сайте компании. А потом ушлые журналисты подметили, что Amazon почему-то исключила из районов срочной доставки негритянские кварталы — например, в Бостоне доставка оказалась доступной везде, кроме центра города, где был компактный район проживания чернокожего населения. Мотивы такого решения нейросети, в общем-то, очевидны: в негритянских кварталах высок уровень уличной преступности, много людей сидят на государственных пособиях, велик процент безработных и нищих. В общем — не лучшее место для такого сервиса, как срочная доставка. Но, понятное дело, публичная реакция была иной: "Amazon не хочет обслуживать чернокожих! Ку-клукс-клан возвращается!". В конце концов нейросеть отодвинули от составления карты и внесли негритянские кварталы в список доступных для сервиса. Хотя осадочек и остался…
"ЗАВТРА". А как вообще можно оценить степень разумности нейросетей? Они обладают неким внутренним сознанием и целеполаганием?
Антон БАЛАКИРЕВ. Безусловно, целеполагание у нейросетей есть. Любой процесс обучения нейросети и результаты её работы оцениваются исходя из той задачи, что вкладывалась в неё создателями. Другой вопрос, что разумность, как уже было сказано, не стоит путать с "сознанием" или с "интеллектом" — это близкие, но не эквивалентные понятия.
Кстати, наглядно это демонстрируется и текущими успехами нейросетей в деле соперничества с человеком в различных интеллектуальных играх. По состоянию на конец 2016-го года нейросети уже обыгрывают людей во всех популярных интеллектуальных играх — шахматах, шашках, нардах, реверси. Последним бастионом в череде таких игр была древняя китайская игра го, но и она пала под натиском нейросетей: в 2016 году компьютерная нейросеть "Альфа Го" выиграла матч против чемпиона мира, корейца Ли Седоля со счётом 4:1. По утверждению создателей "Альфа Го", они и сами не ожидали такого разгромного счёта — в их планы входило лишь продолжение обучения своего детища в рамках матча с Седолем, а нейросеть взяла и выиграла поединок. Это, кстати, хорошая иллюстрация к вопросу о "Скайнете": нынешние нейросети представляют собой "чёрный ящик", действия которого можно предполагать и прогнозировать лишь в общих чертах. Впрочем, это и есть суть творческого и изобретательского подхода, ведь никто не ожидал от Архимеда выкрика "Эврика!", когда он решил принять ванну в родных Сиракузах.
Интересна "Альфа Го" и как пример успеха в сочетании описанных ранее нисходящего и восходящего подходов: против 65 миллиардов нейронов Ли Седоля играли всего чуть более двух тысяч процессоров "Альфа Го", но современные алгоритмы обучения нейросетей сделали из них победителя чемпиона мира в одной из самых многовариантных игр, созданных человечеством.
