Ваш браузер устарел, поэтому сайт может отображаться некорректно. Обновите ваш браузер для повышения уровня безопасности, скорости и комфорта использования этого сайта.
Обновить браузер

Стоит ли нам бояться искусственного интеллекта: рассказывает ученый-информатик

Что на самом деле должно тревожить в стремлении скорее внедрить технологии искусственного интеллекта?

Обсудить

Сегодня искусственный интеллект (ИИ) помогает распознавать фото и переводит речь, водит беспилотные автомобили и обыгрывает человека в шахматы и го. Однако с некоторыми задачами он по-прежнему испытывает сложности. Почему это проблема? Узнаем из отрывка книги одного из ведущих ученых-информатиков Мелани Митчелл «Идиот или гений? Как работает и на что способен искусственный интеллект».

Стоит ли нам бояться искусственного интеллекта: рассказывает ученый-информатик
Источник:
Andrey Suslov / Alamy Stock Vector via Legion Media

Если вы формируете мнение об ИИ на основе кино и научной фантастики (и даже некоторой популярной научной литературы), то наверняка боитесь, что ИИ может обрести сознание, перейти на сторону зла и попробовать поработить или истребить человечество. Но учитывая, как мы далеки от создания общего интеллекта, большинство представителей ИИ-сообщества тревожится о другом.

Как я показала в этой книге, существует множество причин беспокоиться о стремлении общества как можно скорее внедрить технологии ИИ: возможность значительного сокращения рабочих мест, опасность некорректного использования систем ИИ, ненадежность и уязвимость этих систем — вот лишь некоторые обоснованные страхи людей, озабоченных влиянием технологий на человеческую жизнь.

В начале этой книги я писала о том, как тревожит Дугласа Хофштадтера (американский физик и информатик. — Прим. Vokrugsveta.ru) текущий прогресс в ИИ, но стоит отметить, что его в основном пугало другое.

Хофштадтер опасался, что программам ИИ окажется слишком просто воссоздать человеческое познание и творчество, а результаты работы поверхностных алгоритмов вроде ЭМИ (электронных музыкальных инструментов. — Прим. Vokrugsveta.ru), использующих простой «набор хитростей», станут соперничать с великолепными творениями человеческого разума, которыми он восхищался, — например, с произведениями Шопена.

Стоит ли нам бояться искусственного интеллекта: рассказывает ученый-информатик
Источник:
Wu Ming/ChinaImages/Sipa USA via Legion Media

«Если маленький чип сможет обесценить эти умы бесконечной остроты, сложности и эмоциональной глубины, это разрушит мое представление о сущности человечества», — сокрушался Хофштадтер. Его также тревожили предсказания Курцвейла (Рэймонд Курцвейл — известный американский футуролог. — Прим. Vokrugsveta.ru) о грядущей сингулярности, и он с ужасом отмечал, что если Курцвейл окажется хоть в некоторой степени прав, то «нас отодвинут в сторону. Мы превратимся в пережитки прошлого. Мы останемся ни с чем».

Я понимаю беспокойство Хофштадтера, но считаю, что оно преждевременно. В конце концов, эта книга говорит, что мы, люди, склонны переоценивать достижения ИИ и недооценивать сложность собственного разума. Современный ИИ далек от человеческого уровня, и я не верю, что эра «сверхразумных» машин уже не за горами. Если общий ИИ все же будет создан, держу пари, он окажется не менее сложен, чем человеческий мозг.

Стоит ли нам бояться искусственного интеллекта: рассказывает ученый-информатик
Источник:
Feodora Chiosea / Alamy Stock Vector via Legion Media

В краткосрочной перспективе сверхразумность должна занимать одно из последних мест в списке опасений по поводу ИИ. Настоящая проблема — ее противоположность. На страницах этой книги я подчеркнула, насколько хрупкими остаются передовые системы ИИ: они совершают ошибки, когда их входные сигналы слишком сильно отличаются от примеров, на которых они обучались.

Часто бывает сложно предсказать, в каких обстоятельствах проявится хрупкость системы ИИ. Если нужно обеспечить надежные результаты при транскрибировании речи, переводах, описании содержания фотографий, вождении в многолюдном городе, без людей пока не обойтись.

Думаю, в краткосрочной перспективе особенно тревожно, что мы можем предоставить системам ИИ слишком большую автономию, не до конца изучив их недостатки и уязвимости. Мы склонны антропоморфизировать системы ИИ: приписываем им человеческие качества и из‑за этого переоцениваем степень доверия к ним.

Описывая опасности ИИ, экономист Сендхил Муллайнатан упомянул о феномене длинного хвоста в своем описании «хвостового риска»:

Сендхил Муллайнатан

«Нам следует опасаться. Но не разумных машин. Нам следует опасаться машин, принимающих решения, для принятия которых они недостаточно разумны. Я гораздо больше опасаюсь машинной глупости, чем машинного интеллекта. Машинная глупость рождает хвостовой риск. Машины могут принять множество хороших решений, а затем однажды совершить катастрофическую ошибку при столкновении с хвостовым событием, которое они не встречали в своих обучающих данных. В этом и состоит различие между узким и общим интеллектом.»

Или, как выразился исследователь Педро Домингос, «люди боятся, что компьютеры станут слишком умными и захватят мир, но настоящая проблема в том, что они слишком глупы и уже захватили мир».

Стоит ли нам бояться искусственного интеллекта: рассказывает ученый-информатик

Меня беспокоит ненадежность ИИ. Меня также беспокоит его применение. Помимо этических вопросов, меня пугает использование систем ИИ для создания фальшивых материалов: текстов, звуков, изображений и видео, с ужасающей реалистичностью показывающих события, которые никогда не происходили.

Так следует ли нам опасаться ИИ? Да и нет. В ближайшее время не стоит ждать появления сверхразумных сознательных машин. «Набор хитростей» не сможет сравниться с теми аспектами человеческого разума, которые мы ценим больше всего. По крайней мере, на мой взгляд.

Но существует множество поводов для беспокойства из‑за опасного или неэтичного использования алгоритмов и данных. Все это пугает, но я рада видеть, что в последнее время эта тема привлекает большое внимание в сообществе ИИ и за его пределами. В стремлении решить эти вопросы исследователи, корпорации и политики сообща идут к одной цели.

Фото: Kaveh Sardari / Center for Global Development (CGD), CC BY 2.0, via Wikimedia Commons

Из книги Мелани Митчелл «Идиот или гений? Как работает и на что способен искусственный интеллект». М: Corpus, 2022

Подписываясь на рассылку вы принимаете условия пользовательского соглашения