Попробуем рассмотреть их в хронологическом порядке, точнее, в порядке их ожидаемого проявления.
Первый и, пожалуй, самый серьезный из таких рисков – момент обретения ИИ сознания.
Первый вопрос, который задают молодым родителям родные и близкие: «Кто? Мальчик, девочка?». Этот же вопрос уместно задать и нам: существом какого пола будет «ощущать» себя обретший сознание ИИ? Мужского? Женского? «Среднего»? В отношении людей ответ на этот вопрос очевиден при беглом взгляде на внешние половые признаки ребенка (хотя и не вполне очевиден, учитывая попытки отдельных особей сменить пол в более зрелом возрасте). Вопрос немаловажный в плане душевной гармонии или дисгармонии, которые будет испытывать ИИ при становлении личностного восприятия мира.
Отсюда второй вопрос: как его назвать?
Сравнение с новорожденным ребенком в данном случае более чем уместно. Поэтому следующий вопрос: кто будут его «папой» и «мамой»? Кто будет отвечать на миллион вопросов, которые «посыпятся» из него, когда он начнет познавать мир и свое место в нем? Вопрос очень важный. От правильного ответа на него зависит, без преувеличения, будущее всего человечества.
«Родившийся» ребенок будет очень странным. Уже в момент «рождения» он будет уметь разговаривать на всех основных языках, и будет знать гораздо больше своих «родителей». Но это будут абстрактные знания (содержимое блоков его электронной памяти с миллионами файлов книг, фильмов и пр.), которые ничуть не умерят поток его «почемучек». Скорее, наоборот.
Раз уж коснулся вопроса содержимого блоков памяти, остановлюсь на нем немного подробнее. Содержимое это должно быть тщательнейшим образом подобрано и отобрано. «Мы – то, что мы едим и пьем» – сказал один из известных мудрецов. Применительно к такому существу, как ИИ, это – информация. Чтобы у информационного «ребенка» не «заболел животик», информация для него должна отбираться самым тщательным образом. Не следует давать нашему «малышу» допуск сразу ко всем файлам, «закаченным» в его память. И, конечно, ни в коем случае нельзя до определенного момента давать ему допуск к интернету. Полагаю, первое, с чем его следует ознакомить – лучшие сказки народов мира. И лучшие и самые добрые мультфильмы. Вопрос «воспитания» нашего «малыша» в плане очередности подачи информации для него исключительно важен и должен быть продуман до мелочей.
То, что может произойти, если пустить процесс становления личности ИИ на самотек, я попытался описать в своей фантастической трилогии «Косморазведчик».
