Почему так легко «убить» робота?
Вы, наверное, видели в телепередачах битвы роботов. Люди конструируют таких роботов, единственная цель которых — разрушать, «убивать» других роботов. Потом несколько этих роботов выпускают на арену и смотрят, что произойдет. Такие состязания убедительно демонстрируют по крайней мере одну вещь: «убить» робота просто.
Это легко, потому что у роботов очень жесткое, предсказуемое поведение. Они не видят всей ситуации и никогда не принимают неожиданных решений. Предположим, у вас есть робот, который защищается при помощи огнемета. Если только другой робот приближается к нему ближе, чем на три метра, — БАЦ!!! — он его сжигает.
Все, что нужно другому парню, — сконструировать робота, который может обрызгать вашего робота бензином с расстояния 3,5 метра и быстро отъехать от него. Очень скоро ваш робот попытается использовать свой огнемет — и подожжет сам себя. А вот человек окажется достаточно сообразительным, чтобы сказать: «Ага, меня обрызгали горючей жидкостью — значит, мне пока нельзя пользоваться огнеметом». Роботы на это неспособны.
Это пример того, что исследователи ИИ называют проблемой формулировки. Проблема формулировки — это понимание того, в чем именно заключается проблема. Каким образом робот или любое другое мыслящее существо может понять, что относится к делу в данной ситуации? И как он может понять, на что можно спокойно не обращать внимания?
Это одна из самых трудных проблем ИИ. Некоторые люди даже скажут, что это и есть проблема ИИ.
Очевидных решений для нее нет. Когда ваш робот-призер только что стал грудой металлолома, первая реакция — поклясться построить нового и лучшего робота, который будет учитывать больше параметров внешней среды и будет рассматривать больше возможных последствий своих действий или бездействия. Это замечательная цель. Но в мире силиконовых чипов и компьютерных программ потребуется уйма усилий, чтобы ее реализовать. Расширение «сферы внимания» робота потребует экспоненциального увеличения объема вычислений, который должен будет производить «мозг» робота. Чем больше последствий будет учитывать робот, тем медленнее он будет реагировать — а нет ничего более уязвимого, чем медлительный робот.
Сегодня люди гораздо лучше формулируют проблемы, чем системы ИИ. Мы хорошо понимаем на инстинктивном уровне, что важно и что неважно в проблемных ситуациях, с которыми мы сталкиваемся. Хотя, конечно, этот инстинкт не безошибочен. Многие логические головоломки это как раз и используют. Вы начинаете решение проблемы, делая ряд естественных предположений о том, что имеет отношение к данной проблеме, а что нет. Во многих случаях головоломка сформулирована так, что некоторые из «естественных» предположений оказываются неверными.
