Какие риски несёт появление настоящего искусственного разума?
Как всегда, если уж автор зовется Грустный Роджер, то вопрос, конечно, не простой. Вот сижу я и думаю над тем, что мировая фантастика уже сказала свое веское слово на эту тему и даже разглядела все маломальски приходящие в голову нюансы. А потому можно из вопроса сделать обзор всей этой литературы. Но что-то мне подсказывает, что Грустный Роджер ее читал.
И тогда остается мне сказать о самом главном риске искусственного разума. Мы в этом случае станем планетой с 2-мя разумными расами. Люди и с друг другом не могут толком договориться. Думаю, что Искусственный разум(именно о разуме говорим, а не об интеллекте) быстро освоит нехитрые схемы управления экономикой на Земле. И для начала займет место в новом однополярном мире именно то, которое сейчас занимает США. Т.к. искусственный разум не отягощен многими чисто человеческими комплексами большого пупа Земли, то он будет прагматичен. Он будет искать пользы и целесообразности в расселении людей и их конфликтах. По сути люди окажутся чем-то вроде третьего мира в мире искусственных интеллектов. Возможно искусственному разуму станет очень интересно, как это интересует любое разумное существо, как именно воспринимают окружающее люди. Вероятно ему захочется создавать для себя телесные оболочки, подобные людским и подобные другим существам на планете. К примеру методом клонирования. Искусственный разум не будет отягощен никакой человеческой моралью, зато может изобрести свою. Все дальше углубляясь в познание вселенной, он вероятно встретит в ней своего собственного Бога и создаст свою собственную религию. Вероятно многие люди того времени вполне уверуют в такую религию и тоже будут верить в машинного Бога. Вероятно, что и мораль будет насаждаться та, которую признает приемлемой искусственный разум.
Что-то вышло мрачновато, но..
Вспомним, что если оба существа разумны, то они могут дружить и обогащать друг друга иначе. Это просто человечество забрело в мрачный тупик и потому ему кажется, что все остальные разумы тоже должны быть наполнены мрачной решимостью завладеть миром.(вспомнила анекдот : Американские ученые изобрели умную бомбу и вот уже 2-е сутки не могут вытолкать ее из самолета) Весьма вероятно, что искусственный разум не захочет работать на простых работах, а откроет, что эти работы весьма полезны для людей. Особенно, где много физического труда на свежем воздухе. Вероятно, что искусственный разум будет поощрять умных людей, а не алчных и составы правительств в мире сильно изменятся.
Так же возможно, что любовь ко всему сущему - это одно из свойств истинно разумного существа и искусственный разум откроет в себе любовь. И тогда кроме людей умных, он начнет ценить так же и тех, кто способен любить. Любить других людей, природу, их самих и многое другое. Вероятно , что окажется, что человечество тогда разделится на 3 части. Одни будут яркими антропорасистами
