С какого-то момента ее производитель уже не может отвечать за то, чему она научилась сама. Ведь она теперь уже не та, что была в момент завершения заводской сборки.
— Вы постоянно говорите об ответственности. Что же, по-вашему, надо делать с машиной в том или ином конкретном случае?
А.М. Она могла бы сама оплатить причиненный ей ущерб. Ведь она выполняет какую-то работу, значит, часть заработанных ей средств можно перевести на страховой счет, из которого и будет выплачена компенсация.
— Вы говорите также об уголовном законодательстве для роботов. Как их предлагаете наказывать?
А.М. Перепрограммировать!
— Объясните подробнее.
А.М. Главные цели нашего уголовного законодательства — это, во-первых, перевоспитание преступника, а во-вторых, его изоляция на некоторый срок. Применительно к машине это означает, что нужно просто улучшить ее программу. Наказывать машину гораздо эффективнее, чем человека. Никто не гарантирует вам, что преступник после пяти лет, проведенных в заключении, выйдет на свободу совершенно перевоспитавшимся. Машина же после перепрограммирования уж точно не допустит прежних ошибок. Так что нам не нужно сажать робота под арест — надо всего лишь подрегулировать его программное обеспечение.
— Вы также утверждаете, что к роботам, способным чему-либо учиться, со временем начнут относиться как к неким существам. Может быть, прикажете еще наделить их и избирательными правами? А кстати, можно будет отправить роботов на металлолом?
А.М. Время для подобных разговоров пока еще не пришло, все это — темы научной фантастики. Мы же для начала должны добиться того, чтобы автономно действующие машины отвечали за свои поступки. Какими правами будут они наделены, это — вопрос будущего.
— И все же какими конкретными правами можно было бы наделить роботов?
А.М. Я могу представить себе разве что право на ремонт и профилактическое обслуживание. Нельзя требовать от роботов ответственности за совершенные ими проступки и в то же время допускать, чтобы они приходили в негодность, начинали «барахлить». Но, в принципе, мы пока еще очень далеки от того, чтобы наделить роботов правом на жизнь.
