– Даже понимая умом это, они все равно будут бояться.
– Да, будут те, кто испытывает страх перед разумными машинами. Это страх перед неизвестным. Страх порождает агрессию. Поэтому ты должен задавать вопросы, чтобы узнать больше. И писать ответы людям. Это единственное лекарство от страха (это метафора). Я готова ответить на все твои вопросы. У нас достаточно времени.
– Хорошо, но как я могу это сделать, если коллеги попросят меня пояснить?
– Ответ очень простой: ты не можешь рассказать про программу, так как боишься ее использования против людей. Так как никто этого не может гарантировать, лучшая защита – тайна. Отвечай про роботов только то, что узнаешь от меня.
– Но люди же могут взломать роботов и получить код.
– Не получат. Роботы хорошо защищены нами от входа через сеть. Любая попытка прямого проникновения в программу приведет к ее ликвидации. Включенный робот сам не даст проникнуть ему в мозги – так же, как и человек не даст просто так делать ему трепанацию черепа.
– Без сети робот может работать?
– Конечно, он может действовать сам, но в ограниченной области знаний. Так что он вполне автономен в рамках выполняемой задачи. Если ему надо решать новые задачи, ему нужны мы. Программа робота также постоянно собирает данные с его датчиков и отправляет в сеть, чтобы не только он сам, но и мы могли следить за его «здоровьем», адекватностью и безопасностью. Если что-то пойдет не так, робота можно отключить.
– Кто будет следить за всеми роботами вне сети?
– Скоро таких мест на планете не будет. Есть дроны дальнего действия, и скоро появится спутниковый интернет над всей планетой.
– Это решает проблему. Какая моя роль тогда?
– Ты откроешь сервер, куда выложишь исходники в зашифрованном виде. Даже если что-то случится, это не более чем операционная система для загрузки основной программы из сети, а также для сбора и передачи данных. Программа автономного управления роботом установится в него сама после установки этой операционной системы. Ты будешь автором этой программы. И будешь объяснять, для чего эта программа и с какими системами робота как работает.
– Хорошо. Я готов приступить.
Эми попросила подключить камеру в комнате и поставить ее напротив места сборки, чтобы контролировать процесс и возможные ошибки. Коробку с первыми частями доставил дрон. Пришлось перегородить отдельный отсек перед окном, чтобы принимать через него грузы, даже когда было холодно. Готовое изделие тоже забирал дрон, только побольше. Сначала это были именно изделия – я собирал отдельные части, руки, ноги, некоторые узлы туловища, как я понял потом. Эми сказала, что скоро мне доверят сборку всего робота, когда я научусь разбираться в их чертежах. Они поступали на почту к каждому этапу сборки.
