Ошибки и штампы в фантастике | страница 10



Разумеется, можно запихнуть в компьютер каким-то образом снятую копию человеческого разума. Но это уже не имеет никакого отношения к искусственному интеллекту. Кроме того, сама такая возможность весьма сомнительна. Человеческое мышление и эмоции основаны на «аналоговых» биохимических и даже чуть ли не квантовых, по последним исследованиям, процессах, адекватно смоделировать которые дискретно-детерминированными электронными схемами вряд ли удастся. Даже весьма популярные «нейронные компьютеры со случайными связями» здесь не помогут.

Раз уж речь зашла о бунте машин, нельзя не упомянуть Три Закона Робототехники Азимова , которые многими рассматриваются как панацея против машинного бунта. Напомним их:

1) Робот не может причинить вред человеку или свои бездействием допустить, чтобы ему был причинен вред.

2) Робот обязан выполнять приказы человека, за исключением случаев, когда это противоречит Первому Закону.

3) Робот обязан заботиться о собственной безопасности, при условии, что это не противоречит Первому и Второму Закону.

Почему они не спасут в мало-мальски сложном случае? Да просто в силу невозможности четко определить используемые в них понятия. Что такое человек? Тысячелетия философы бились над этим вопросом и так и не смогли дать простого и притом однозначного ответа. Безрукий безногий инвалид — это человек? Пациент в многолетней коме, живущий на аппарате искусственного дыхания? Мальчик, воспитанный зверями и не обладающий и тенью самосознания? А если человеческое тело начнут модифицировать кибернетическими имплантантами, параллельно оснащая классических роботов биологическими элементами — где пройдет между ними грань? Примеров можно привести массу. Даже сам Азимов в одном из романов про Основание показал метод обхода Первого Закона — на одной из планет колонистов необходимым признаком человечности было рождение именно на этой планете. Все инопланетяне для тамошних роботов автоматически людьми не являлись, а потому колонисты могли при желании создать даже кибернетическую армию вторжения.

То же самое и со «вредом». Одни и те же действия в разных ситуациях могут быть для человека как полезными, так и вредными. Операция с негарантированным исходом — вред это или нет? Особенно если пациент серьезно рискует умереть во время нее, а без нее — прожить еще несколько недель? Папаша воспитывает сына ремнем — это бессмысленное истязание или заслуженное вложение ума через заднее место? А исследовательская деятельность? Ведь человек гарантированно использует в военных целях любой прорыв, даже в чисто теоретических областях. Одно это соображение способно парализовать любой исследовательский компьютер, ограниченный Первым Законом.