Ваш браузер устарел, поэтому сайт может отображаться некорректно. Обновите ваш браузер для повышения уровня безопасности, скорости и комфорта использования этого сайта.
Обновить браузер

Как изменится мир, которым будут управлять разумные машины?

Прогноз ученого

15 июня 2022Обсудить
Как изменится мир, которым будут управлять разумные машины?
Источник:
Brain light / Alamy

На пути к новому человеческому будущему

В эпоху ИИ сохранятся и разум, и вера, но реальность, в которой они будут существовать, коренным образом изменится из-за появления новой мощной формы разума, управляемого машиной. Наверное, основой человеческой идентичности останется одушевленный интеллект, но теперь человеческий разум не будет единственной формой интеллекта, пытающейся познать мир. Чтобы определить наше место в новом мире, возможно, придется сместить акцент с центрального места человеческого разума на наши достоинство, человечность и самодостаточность.

На данном этапе компании и правительства занимаются интеграцией ИИ в общественную и политическую жизнь от случая к случаю и активно берутся за дело лишь тогда, когда что-то идет не так. Это позволяет откладывать принятие сложных решений. Чтобы не оставлять без внимания то, как ИИ влияет на человеческий опыт и человеческую идентичность, нам придется действовать более четко.

Особенностью Просвещения было стремление понять, что такое человеческий разум, — в сравнении и по контрасту с предыдущими эпохами.

Взгляды на природу человека и структуру общества политических теоретиков Просвещения — Гоббса, Локка, Руссо и многих других — вытекали из знаний о природе.

Другие философы задавались вопросом, как объединить и распространить человеческие знания, чтобы обеспечить просвещенную власть и процветание человечества. Мы не решим проблемы интеграции ИИ, не предприняв всесторонних усилий к пониманию природы человека.

Первым шагом должно стать осознание наших возможностей. Мы можем поступить тремя способами: либо ограничить ИИ, либо отнестись к нему как к равному партнеру, либо отступить перед ним. Каждая страна должна будет определиться с тем, какой подход к ИИ в каждом конкретном случае ей ближе, в соответствии со своими ценностями, потребностями и возможностями. Совокупность таких решений и определит культуру и мировоззрение каждого общества.

Можно проявить осторожность и оставить ИИ в роли младшего партнера, ограничив его использование отдельными функциями и описав, когда, где и как он может применяться. Государства или отдельные люди могут оставить за собой главенствующую роль, низведя ИИ до положения вспомогательного персонала. Но эти ограничения могут не выдержать проверки реальным соперничеством, о чем свидетельствуют проблемы безопасности.

Какая компания откажется от возможностей ИИ, которые успешно использовал для вывода популярных продуктов или услуг на рынок ее конкурент, если этому не будут препятствовать серьезные этические или юридические ограничения? Если ИИ позволяет администратору, архитектору или инвестору делать успешные прогнозы или контролировать ситуацию, разве они не воспользуются этим? Отдельные ограничения на различные виды использования ИИ, вероятно, придется принимать на уровне стран или даже на международном уровне.

Во многих сферах ИИ и человек станут равноправными партнерами в исследованиях.

Это значит, что новое понимание человеческой идентичности будет отражать примирение с нашими новыми отношениями с ИИ и с окружающим миром. Будут выделены отдельные области деятельности, в которых останется главенствовать человек.

В то же время будут развиваться социальные структуры и привычки, необходимые для понимания и плодотворного взаимодействия с ИИ. Государства должны создать интеллектуальную и психологическую инфраструктуру для взаимодействия с ИИ, используя его на благо человека. Технология потребует адаптации во многих, более того, в большинстве аспектов политической и социальной жизни.

ИИ может взять на себя ведущую роль в исследовании и управлении как физическим, так и цифровым миром. В определенных областях люди могут подчиниться ИИ, предпочитая его возможности ограничениям человеческого разума. Такое подчинение побудит многих или даже большинство людей уйти в собственные, индивидуальные миры. В этом сценарии мощь ИИ в сочетании с его вездесущностью, невидимостью и непрозрачностью поставит тревожные вопросы о перспективах свободного общества и даже свободы воли.

Как изменится мир, которым будут управлять разумные машины?
Робот Kismet с искусственным интеллектом в Музее Массачусетского технологического института, 2006 год
Источник:
Polimerek (CC BY-SA 3.0) / Wikimedia Commons

При каждом отдельном развертывании ИИ будет крайне важно определить баланс. Обществу и его лидерам придется выбирать, когда люди должны быть уведомлены о том, что они имеют дело с ИИ, а также какими полномочиями они обладают в этом взаимодействии. В конечном счете благодаря этому выбору появится новое понимание человеческой идентичности для эпохи ИИ.

Некоторые страны и институты могут постепенно приспособиться к ИИ. Или же они могут обнаружить с его помощью противоречия между своими основными принципами и собственным восприятием реальности и самих себя. Поскольку ИИ способствует повышению уровня образования и доступа к информации, даже вопреки тому, что увеличивает возможности для манипуляций, это может увеличивать напряжение.

Когда люди лучше информированы, лучше оснащены и имеют подтверждение своей точки зрения, они могут требовать от своих правительств большего. Для США это особенно актуально.

И здесь вырисовывается несколько принципов. Во-первых, чтобы обеспечить независимость человека, основные правительственные функции не должны осуществляться ИИ — выполнять их и контролировать их выполнение должен человек.

Еще Аристотель определил человека как «zoon politicon» — «политическое животное».

С тех пор признано, что, помимо разума, люди отличаются склонностью к формированию сложных обществ и осуществлению скоординированных действий. Принципы, присущие нашим обществам, обеспечивают мирное разрешение споров. Порядок и легитимность в этом процессе взаимосвязаны: порядок без легитимности — это просто сила, которая не может долго существовать.

Важное значение для поддержания легитимности будет иметь человеческий надзор и определяющее участие человека в основных элементах управления. Ни ИИ, ни его создатели в настоящее время не могут точно описать, как ИИ приходит к тем или иным выводам.

Однако, например, в системе правосудия легитимность принятых решений определяют именно объяснение и моральное обоснование — они позволяют оценивать справедливость суда и оспаривать его выводы, если они не соответствуют моральным принципам общества. Из этого следует, что и в эпоху ИИ лицами, принимающими решения, должны оставаться квалифицированные люди, способные обосновать сделанный выбор.

Как изменится мир, которым будут управлять разумные машины?
Источник:
Peachaya Tanomsup / Alamy

Демократия тоже должна оставаться «человеческой». На самом базовом уровне это означает защиту целостности демократических обсуждений и выборов. Нужна не только возможность высказаться — само человеческое слово должно быть защищено от искажения ИИ. Свобода слова сохраняется для людей, но не распространяется на ИИ. Как уже говорилось, ИИ способен в больших объемах генерировать дезинформацию очень высокого качества, например цифровые фабрикации, которые очень трудно отличить от реальных видео- или аудиозаписей.

Синтез речи, безусловно, нужен, но не менее важно дифференцировать синтезированную речь ИИ и человеческую речь. Хотя регулирование посредничества ИИ, предотвращающее продвижение дезинформации, будет сложным, но оно будет иметь решающее значение, поскольку в демократическом обществе речь позволяет гражданам обмениваться актуальной информацией, принимать активное участие в демократическом процессе и заниматься самореализацией, создавая произведения различных видов искусства.

Генерируемые ИИ фабрикации могут заглушать или искажать человеческое слово, поэтому ограничение распространения ИИ, создающего дезинформацию, жизненно важно для того, чтобы мы могли продолжать обсуждать человеческие проблемы.

Является ли сфабрикованный ИИ диалог между двумя общественными деятелями, которые никогда не встречались, дезинформацией, развлечением или политическим расследованием? От чего зависит ответ — от контекста или от участников? Может ли человек запретить создание фабрикаций со своим «участием» без его личного разрешения? А если разрешение получено, становится ли синтезированный контент от этого более подлинным?

В конечном счете каждая страна должна сама решить, каким образом она будет использовать и как ограничивать использование ИИ в различных областях. И применение ИИ, и его ограничения нужны для различных целей, важных для общества, — от использования ИИ-помощников для защиты детей от агрессии до предотвращения использования ИИ для создания смертельных вирусов или вредоносных программ.

Доступ к определенным мощным ИИ, таким как AGI, необходимо будет строго ограничивать, чтобы предотвратить злоупотребления. Поскольку разработка AGI, скорее всего, будет настолько дорогой, что их будет создано немного, доступ к ним будет в любом случае ограничен.

Некоторые ограничения могут нарушать принятые в стране правила свободного предпринимательства или демократической деятельности.

Реализация других ограничений, например ограничения использования ИИ для производства биологического оружия, потребует международного сотрудничества.

На момент создания этой книги ЕС уже изложил планы по регулированию ИИ, направленные на обеспечение баланса между европейскими ценностями, такими как конфиденциальность и свобода, экономическим развитием и поддержкой европейских компаний, работающих в сфере ИИ.

Эти правила прокладывают для Европы курс между Китаем, где значительные средства в ИИ вкладывает государство, и США, где исследования и разработки в области ИИ в основном отданы на откуп частному сектору. Их основная цель — контролировать использование компаниями и правительствами данных и ИИ, а также способствовать созданию и росту европейских компаний, занимающихся ИИ. В нормативной базе должна учитываться оценка рисков различных видов использования ИИ.

Как изменится мир, которым будут управлять разумные машины?
Источник:
sleepyfellow / Alamy

Применение правительствами некоторых технологий, считающихся высоко рисковыми, таких как распознавание лиц (хотя оно имеет и полезное применение, например поиск пропавших без вести и борьба с торговлей людьми), должно быть ограничено или даже запрещено. Исходная концепция регулирования будет активно обсуждаться и изменяться, но уже сейчас она иллюстрирует то, как общество определяет необходимый для улучшения образа жизни людей диапазон ограничений ИИ.

Ключевые слои общества должны быть вовлечены в постоянное обсуждение приемлемых ограничений на развертывание ИИ.

В США академические группы и консультативные органы уже начали изучать взаимосвязь существующих процессов и структур с развитием ИИ. К ним относятся такие академические активности, как инициатива МИТ, посвященная будущему трудовой деятельности, и такие правительственные организации, как Комиссия национальной безопасности по искусственному интеллекту.

Но эти усилия остаются специализированными и поэтому не всегда попадают в поле зрения электората. Страны, которые откажутся от анализа взаимодействия с ИИ, неизбежно отстанут от стран, которые занимаются таким анализом и тем самым повышают материальные и интеллектуальные преимущества, которые предлагает партнерство с ИИ.

Потребуется новая форма мышления, выходящая за рамки традиционных дисциплин или школ. Чтобы отвечать сложности происходящих изменений, необходимо научиться по-новому интегрировать области знания. Университеты, правительства, технологические компании и др. должны стремиться обсуждать — в той степени, в какой это соответствует их задачам, — свои вопросы, идеи, представления и открытия, сделанные в этой области.

Страны, которые занимаются подобными исследованиями, придут к разным выводам, отражающим их историю и взгляды. Так же, как меняются концепции и институты, разработанные разными странами для упорядочения фундаментальных знаний, будут меняться и создаваемые в разных странах ИИ, а также понимание аналитической, прогнозной и генеративной деятельности — и как это влияет на их нормы и институты.

Поскольку данные, на которых обучается ИИ, содержат культурные предпочтения стран, в которых это происходит, то в одних частях света ИИ может усилить централизацию, консенсус и конформизм, а в других — способствовать либерализации и плюрализму. Для обеспечения мира во всем мире придется выработать способы сосуществования этих целей и подходов.

Как изменится мир, которым будут управлять разумные машины?
Микеланджело, «Сотворение Адама»
Источник:
Public Domain

Изменение восприятия реальности и самих себя

Простой факт заключается в том, что реальность с точки зрения ИИ может оказаться не такой, как представляли себе люди. В ней могут быть закономерности, которых мы никогда не замечали и не сможем осмыслить. Ее глубинная структура, изученная ИИ, может оказаться невыразимой на человеческом языке. Как заметил один из наших коллег по поводу Alpha Zero: «Подобные примеры показывают, что есть способы познания, недоступные людям».

Если для того, чтобы обозначить границы современного знания, мы поручим ИИ исследовать недоступные нам области, он может раскрыть нам закономерности или дать прогнозы, которые мы не до конца поймем. Вновь могут оказаться актуальными идеи гностиков о личном духовном знании, более важном, чем традиционные учения и опыт.

Мы можем подойти на шаг ближе к концепции чистого знания, менее ограниченного структурой нашего разума и шаблонами человеческого мышления. И тогда нам придется не только пересмотреть свою роль единственных знатоков реальности, но и переопределить саму реальность, в которой, как мы полагали, мы живем. И даже если реальность окажется именно такой, как мы думали, ИИ останется мощным инструментом для ее более глубокого анализа, переопределяющим наши взаимоотношения с новым пониманием реальности и друг с другом.

Когда ИИ распространится повсеместно, некоторые поспешат объявить о беспрецедентном успехе человечества на пути к познанию и обустройству нашего мира. Будет и противоположное мнение — что наши возможности куда меньше, чем нам казалось ранее. В любом случае мы изменим наше собственное мнение о себе и об окружающем мире. Изменится наша платформа — и вместе с ней изменятся наши социальные, экономические и политические механизмы.

Средневековый мир ориентировался на imago dei (От латинского «образ Божий». — Прим. пер.): отсюда его феодальные аграрные модели, почитание короны и смысл, вкладываемый в шпили соборов (Шпиль средневекового христианского собора символизировал мощь и силу религиозных устремлений его создателей. — Прим. пер.).

Как изменится мир, которым будут управлять разумные машины?
Кафедральный собор Пресвятой Девы Марии (англ. Cathedral Church of the Blessed Virgin Mary) — готический собор Девы Марии в городе Солсбери (Солсберийский собор), вид с восточной стороны
Источник:
Antony McCallum (CC BY-SA 4.0) / Wikimedia Commons

Эпоха Просвещения ориентировалась на cogito (По Декарту — акт мышления. — Прим. пер.) и стремление к новым горизонтам — и вместе с этим на новое личное и общественное понимание судьбы и предназначения человека.

Век ИИ еще не определил свои организационные принципы, этические концепции, цели и ограничения.

ИИ-революция явно произойдет быстрее, чем ожидают люди, и, если сегодня мы не разработаем концепции последующих преобразований, мы не будем к ней готовы. С моральной, философской, психологической и практической точек зрения мы находимся на пороге новой эпохи, и мы должны адаптировать наши отношения с реальностью так, чтобы они оставались человеческими.

Отрывок из книги Генри Киссинджера, Эрика Шмидта, Дэниела Хаттенлокера «Искусственный разум и новая эра человечества». М.: Издательство Альпина PRO, 2022.

Как изменится мир, которым будут управлять разумные машины?

Читайте книгу целиком

Узнать цену

Мы живем в мире, в котором искусственный интеллект фильтрует для нас огромные массивы онлайн-информации, меняя наше восприятие реальности, и внедряется в здравоохранении, образовании и ряде других областей, в которых мы раньше доверяли только людям. Глубокие нейросети выигрывают у чемпионов мира по шахматам, обнаруживают новые лекарства способами, которых не понимают современные ученые, и побеждают опытных пилотов-людей в симуляциях воздушных боев. Как искусственный интеллект изменит роль человека в познании мира, современной политике и функционировании общества? Этому важнейшему вопросу современности и посвящена данная книга.

Подписываясь на рассылку вы принимаете условия пользовательского соглашения