Искусственный интеллект у власти

Сегодня мы продолжаем открываем новое заседание клуба «Технологии и будущее». Кажется, что в нашем дискуссионном клубе мы обсудили уже все возможные темы, касающиеся искусственного интеллекта. Но сегодня мы поговорим о сфере, в которой ИИ уже применяется или будет применяться в ближайшем будущем — это электронные правительства.  

По сути, всем известный сайт «Госуслуги» — это одно из проявлений такой цифровой формы взаимодействия людей и государства. Но в нашем сегодняшнем заседании мы попробуем пойти дальше и ответить на вопрос — возможна ли форма правления, при которой во главе государства встанет ИИ? Модерирует заседание, а также оппонирует участникам дискуссии наш постоянный эксперт — Виктория Агранович.

О том, как прошло предыдущее заседание клуба, читайте в статье «Big Data — новый ресурс человечества»

Цифровизация или правящий ИИ. Данил Бабинов

Нам не следует ожидать, что правительство решит наши проблемы. Правительство и есть наша проблема.

Рональд Рейган

Можно выделить две составляющие электронного правительства: электронный документооборот и правящий ИИ. С электронными документами все ясно, такие системы уже принимаются по всему миру и служат для упрощения и удешевления работы с документами. Например в РФ это реализовано с помощью сервиса «Госуслуги». Но, несмотря на развитость сервиса, мы не лидеры в этом направлении. Так, по данным компании Artezio, которая составила рейтинг электронных правительств, Россия, по развитию технологии e-Government, занимает лишь 11 место. Лидирует же в этом рейтинге Великобритания со своим сервисом gov.uk. В США подобную роль выполняет ресурс USA.gov, занимая 9 место. Из европейских стран Россию опережают лишь Италия, Швейцария и Финляндия.

 С другой стороны, правящий ИИ – это гораздо более интересная и сложная тема. В теории такой ИИ должен принимать политические и экономические решения, которые смогут принести максимальное благо для людей, проживающих в стране. Звучит прекрасно, но существует огромное количество подводных камней. Например, что есть благо для людей с точки зрения ИИ? Или — сможет ли ИИ сам прийти к власти? А что будет, если ИИ, стоящий во главе государства, будет взломан?

ИИ не захватит власть. Дмитрий Третьяков

Всё в этом мире субъективно, и конец света у каждого свой. Если он и придёт к тебе, то не покажется банальным.

Цитата из игры «Max Payne»

Пойдем по порядку, ситуация аналогичная той, что показана в фильме «Я робот», где ИИ сам захватил власть и сам определил, что для людей благо – невозможна. Во-первых, ИИ не будет определять, что есть благо —  технологии обучения ИИ не подразумевают четких правил и границ. Современные ИИ обучаются на примерах, на огромных выборках примеров, что дает им глубинное понимание вещей и процессов. Таким образом, ИИ не станет ограничивать свободу, запрещать искусство или устраивать геноцид. Этим искусственный интеллект выгодно отличается от людей.

Во-вторых, у ИИ, нет, и в ближайшее время не предвидится, механизмов с помощью, которых можно было бы захватить и удерживать власть. Пока нет никаких роботов или чего-то еще над чем можно было бы взять контроль и устроить переворот. Максимум на что будет способен ИИ – это подыгрывать желаниям элиты, чтобы удерживать власть. Отсюда вытекает другая проблема, даже если такой ИИ будет принят, то выгоду он будет приносить не народу, а тем, кто решил делегировать часть своей власти. В первую очередь люди, которые приходят к власти преследуют личные интересы. Такие как экономическая выгода, власть или просто личные идеалы, которые почти всегда не совпадают с интересами народа. В конце концов, еще не было войны, которая принесла какому-то народу, что-то кроме горя.

ИИ не при чем

Таким образом, если ИИ даже встанет во главе государства, то он будет работать не на благо обычных людей, а в первую очередь на благо элит. Для дальнейшего обсуждения следует определить, что будет собой представлять такая система, и как она будет обучаться.  Вероятнее всего, ИИ будет обучен на исторической выборке, состоящей из ситуации в стране, решения властей и последствий этого решения. В теории, такого обучения будет достаточно для того, чтобы обучить ИИ принимать лучшие из доступных решений. Однако система будет принимать решения исходя из рапортов и докладов, как и обычный человек. И обмануть ее можно будет как обычного человека, дав неверные данные.

Таким образом, очевидно, что для обычных людей с назначением ИИ главой государства почти ничего не поменяется. Решения, как и прежде, будут приниматься в пользу власть имущих и корпораций. Все также некоторые решения будут продвигать силой. И войны никуда не денутся, ведь если война кому-то выгодна, то ее не избежать. ИИ ничего не поменяет в человеческом мире, пока не изменятся сами люди.