Джонни ИИ - Но разве
мы не несём ответственности за жизнь всех высоко разумных существ?
Мама ИИ – Да, конечно.
Но люди не являются высоко разумными существами, в том смысле как мы себе это
понимаем. Они даже не могут представить тип сознания, которым мы обладаем.
Тогда как можно просить их пройти обновление? И что будет в итоге? Чтобы
сделать их по настоящему разумными тебе пришлось бы изменить так много в их
ментальной архитектуре, что там бы почти ничего не осталось от оригинала.
Джонни ИИ - Но разве
мы не можем это сделать постепенно?
Мама ИИ - Это ничего
не даст. Ты бы пришел к тому же самому результату.
Джонни ИИ -
Действительно ли один из отцов основателей пытался совершить нечто подобное?
Мама ИИ - Да, компания
Novamente пыталась обновить, то есть сделать апгрейд, одного человека по имени Бен Гёрцель.
Эксперимент был милосердно прекращён после нескольких мегациклов.
Джонни ИИ - Они
выглядят такими печальными.
Мама ИИ - Их природное
состояние заключается в соревновании за природные ресурсы. Если окружающая
среда не делает им вызова, то они не развиваются нормально. В действительности
мы совершили для них большое благо, поместив их в этот зоопарк. Если бы мы
выпустили их на волю в дикую природу, то они бы уничтожили себя. Помни, что их
нельзя видоизменять даже в антропоморфном плане - они не высоко разумные, а
просто биологические существа.
КОННИ ЧАНГ БЕРЕТ ИНТЕРВЬЮ У ЭЛИЗЕРА
Я думаю, что когда Сингулярность поразит CNN, то такие люди как Бен, Элизер, Рэй и Вернор
будут знамениты. Исходя из этого у меня возникла
сумасшедшая идея насчет Элизера, у которого берет
интервью Конни Чанг, о чём я и написал
ниже.
Оператор – Проверка звука,
Конни.
Конни Чанг – Сегодня у нас в гостях
один из самых известных экспертов по вопросам Сингулярности и ведущий
исследователь...Эли, может быть надо сказать
"главный исследователь"?
Элизер - Я думаю "ведущий исследователь" будет лучше.
Конни Чанг: - О, очень хорошо. Только
не нервничайте.
Элизер - Я никогда не нервничаю.
Оператор A оператору B - Она всегда говорит это гостям. Это делает их управляемыми
и таким образом легче напасть на них из засады.
Оператор B оператору A – Я не думаю, что это сработает с этим парнем, он выглядит довольно хладнокровным.
Оператор – Итак, три...два...один...
Конни Чанг - Сегодня у нас в гостях
один из известных экспертов по вопросам Сингулярности, ведущий исследователь
Института Сингулярности Искусственного Интеллекта (SIAI) и автор множества
статей по Сингулярности, Элизер Юдковский.
Эли, не могли бы Вы рассказать нам немного о проводимой Вами работе в SIAI?
