– Ну, не знаю, – она смущается, – что-нибудь.
– Хочешь знать, чему машины отличаются от людей?
– Да.
– У машин отсутствует мотивация. Они не хотят, не могут ставить цели сами себе. Действуют только в пределах программы и не проявляют инициативу. Такой класс реакций, как эмоции для них невозможен, по сути. Та же "Алиса" не запустит тебе музыку по собственному желанию.
– Но ведь это ненадолго. Ученые, наверняка что-то придумают.
– Не уверен. Проблема фундаментальна. Ее не могут решить уже несколько поколений ученых. Возможно, им не хватает понимания чего-то важного. Ну, например того, как устроена человеческая душа.
– Душа? Странно слышать это слово от тебя. Ты же математик.
– Нуу… Я умею удивлять. А если серьезно – в моей любимой книге Пелевина описана любовь человека и искусственной девушки. Так вот, я считаю, что это возможно только в одностороннем порядке. Человек может влюбиться в машину, она же не ответит. Она может только имитировать чувства по определенным правилам. Правила могут быть сколь угодно сложными, поэтому все выглядит как настоящее, но это не так. Слышала про эксперимент с "китайской комнатой"?
– В общих чертах. Там было что-то с человеком, который отвечал на вопросы на китайском, не зная языка. У него были бумажки с правилами того, как строить ответы.
– Ну, так вот, любой искусственный интеллект и есть такая китайская комната. Как, впрочем, и человек. За одним исключением. Временами в комнату врывается настоящий китаец, дает леща оператору и вместо ответа на вопрос "Что есть жизнь?" начинает читать Конфуция на кантонском диалекте. В общем, формирует непредсказуемую реакцию, на предсказуемый раздражитель.
– Примерно понимаю. И когда так происходит?
– Например, когда человек влюбляется, или ему приходит очередной инсайт. Ну или все вместе.
– Понимаю. А можно нескромный вопрос?
– Валяй.
– Я сейчас разговариваю с "оператором" или с "китайским интервентом"?
– Ни хао! – я складываю руки на груди и делаю шутливый поклон.
Она начинает смеяться. Звонко и заливисто, как маленькая девочка. В глазах пляшут шальные искорки. Я улыбаюсь.
– Ты не ответил на мой вопрос, говорит она, перестав смеяться.
– Я и сам не знаю, – отвечаю я со вздохом, – возможно, мои правила слишком сложные. Давай не будем об этом.
– Давай. Знаешь, что я думаю?
– И что же?
– Ты слишком зажат. Не даешь проявиться себе настоящему. В тебе одновременно уживаются логичность и приземленность и тонкая романтичная натура. Помнишь, как ты рассказывал мне про свой поход в горы. Столько прилагательных, я как будто побывала там с тобой. Но таким ты бываешь чуть чаще, чем никогда. По крайней мере, я так думаю. Все остальное время ты пытаешься анализировать все логически, не даешь себе действовать спонтанно.
