Лекс ваще то и есть ИИ, прямо из палаты №6 мер и весов. Некоторое количество самосохранения, способность анализировать обстановку и ни намека на мотивацию делать что-то без приказа неудачника Твидла. Правда пауков он таки боится.
А вообще n-дцать страниц назад мы все это тут же и обсуждали. Нупка останется при своем мнении, которое тут освежил Димфайр - не путайте ИИ/ИР и искуственную личность. Первые вполне могут быть убервундервафлями (управлять целой планетой как Эйва из Аватарки, ну или хреначить их как тот же Лекс) без всякой прямой опасности человекам. А какая-нить имитация личности, которая даже по меркам лысых обезьян тянет на посредственность может мнить себя Гитларом и стремится уничтожить всех человеков.
Хотя Эйва все-таки ближе к искуственной личности, сидящей в мощном суперкомпе.
Проблема вовсе не в том, что она может мнить себя художником(как раз это вряд ли будет)-проблема в невозможности просчитать все причинно следственные связи и последствия даже при дружественном разуме. Например
-ИР попросили обеспечить процветание человечества на ближайшие 100 лет. ИР согласился, помог, 100 лет процветания-и на исходе столетия последний глоток воды задышывается последним глотком же воздуха. И все мертвы, ибо думать нужно было
Альтернативный вариант
-ИР попросили обеспечить процветание человечества, но не указали срок. ИР согласился, помог. Поскольку число будущих поколений приближено к бесконечности то абсолютно любые нужды и желания будущих поколений являются бесконечно более ценными, нежели нужды и желания поколения нынешнего. Итог-абсолютная диктатура с сокращением до минимума жизненно необходимых вещей и полной отменой вещей к жизненно необходимым не относящихся. И все живы, но желали бы сдохнуть. Ибо, опять же, нужно было думать.
Прямое же уничтожение человечества если и будет то будет вынужденной мерой-но нести в себе какие то негативные эмоции вряд ли будет. Вы же не злитесь, когда моете руки-вы просто моете руки.
Сообщение отредактировал DIMFIRE: 07 January 2016 - 22:51