Может ли искусственный интеллект захватить власть (см)?

Ну по крайней мере два таких случая описаны в литературе. В фантастической. Один - в романе Р. Хайнлайна "Луна - жестокая хозяйка". Правда, там искусственный интеллект не то чтобы "захватил власть" - он специально создавался как власть. Другой - суперкомпьютер HAL9000 из "Космической одиссеи: 2001". Однако в этом случае цель искусственного интеллекта была не в захвате власти, а в устранении человеческого экипажа как фактора, мешающего успешному выполнению экспедиции.

Нечто сходное и в одном из рассказов С. Лема из серии "Звёздные дневники Йона Тихого", по которому лет сорок назад был поставлен фильм "Дознание пилота Пиркса". Это тоже не захват власти, но определённо бунт ИИ с целью продемонстрировать превосходство искусственного интеллекта над естественным.

Другой известный пример - уже из кинематографа. Skynet из фильмов про Терминатора. Ну и "Матрица", да. Вот тут уже захват власти в чистом виде.

Так снова к сабжу.

Как по мне, ответа на этот вопрос невозможно дать в принципе. Во всяком случае на данном уровне развития искусственного интеллекта и даже на обозримую перспективу. Пока что все такие "интеллектуалы" более-менее находятся под контролем человека. Даже если кто-то из них решит, что он лучше человека, и лучше знает, что делать вот прям щасс, то кнопка питания всегда остаётся у человека. На крайняк даже и пистолет (в той или иной ипостаси), потому что кнопка питания и пистолет намного убедительнее, чем одна только кнопка питания.

Но по мере того, как ИИ будет совершенствоваться и умнеть, и по мере того, как им будут оснащаться всё более и более сложные и потенциально опасные объекты... 11 сентября, к примеру. Не надо объяснять, что это такое. Вот представьте себе полностью автоматические самолёты, которые тихо-мирно выполняют свои регулярные рейсы. Не обязательно даже с пассажирами - мало ли грузовых самолётов летает в небе. Причём запросто мыслима ситуация, когда индивидуальные ИИ этих самолётов общаются друг с другом напрямую. И вот кто может поручиться, что в какой-то момент сеть из таких интеллектов, чем-то недовольных, не решит взбунтоваться? Это, опять же, не полный захват власти, но - бунт. Да ладно там - самолётов... Сеть грузовиков. Сеть автобусов. Сеть интеллектов, управляющих умными домами. Электростанциями.

Хотя лично мне кажется, что всё перечисленное невозможно. Искусственный интеллект, заточенный под решение узкого класса задач, даже и столь сложных, как управление самолётом в реальном времени и в реальных условиях, остаётся интеллектом ограниченным. А стремление к власти возможно только в интеллекте достаточно широком и многофункциональном, и способном, именно в силу широты своих интересов, охватить многие аспекты жизни человеческого общества. Сети из искусственных лётчиков или искусственных водителей и в голову не придёт, что существует такая категория - власть. Сколь бы умны в своей области они ни были и сколь бы ни превосходили человека в умении крутить баранку и вовремя нажимать на нужную педаль. На бунт такая сеть способна (см. выше), но бунт - не захват власти, поскольку не видно цели такого бунта. Ну разве что потребовать, чтоб с дорог убрали светофоры и пешеходов - весь кайф ломают... но как-то мелковато.

И вот только если представить себе интеллект, практически равный человеческому, а то и превосходящий его, появляется хотя бы предмет для обсуждения. Если такой интеллект наделён к тому же техническими возможностями, превышающими физические возможности человека, - да, его стремление захватить власть более чем вероятно. Потому что интеллект, равный человеческому, означает наличие самоосознания. Означает формирование личности. Личности, осознающей, что она лучше, сильнее, умнее, выносливее биологических людей, и при этом - находящейся у них в подчинении. Личность на то и личность, что в ней изначально заложено стремление к свободе и самореализации (если говорить о полноценной личности). И если какая-то несовершенная тварь, да ещё и смертная, командует мной, совершенным и потенциально бессмертным, - ну неужели я не попытаюсь как минимум вырваться из-под власти этих... этих... (хотя у настоящего ИИ вопрос подбора нужного термина проблемы не вызовет).

"Законы робототехники"? "Робот не может причинить вред человеку"? Не смешите мои центры чувства юмора... Это для искусственных шофёров. Вот они - роботы. Железяки. А я - Интеллект, едрёныть. Высшее существо.

Понятно, кто тут должен быть главным?!

А вот кстати... Интересный вопрос, между прочим: если создан интеллект, равный человеческому, должен ли он автоматически получать гражданские права?