Убийственный цинизм: профессор IT назвал причину, почему нейросети опаснее, чем кажутся

Появление нейросети ChatGPT, пожалуй, стало самым громким событием в сфере ИИ в 2022 году (чат-бот стал доступен для широкого круга пользователей 30.11.2022 г. — Прим. ред.). IT-специалисты всего мира взахлеб обсуждают, почему искусственный интеллект внезапно начал выдавать настолько осмысленные суждения, каких от него никто не ожидал, и в какой момент произошел этот невероятный скачок от количества к качеству.

Ученые признают: алгоритмы обучаются слишком быстро, а вот эмпатии им все же недостает. Профессор Стюарт Рассел из Калифорнийского университета в Беркли объясняет, чем рискуют люди, продолжая инвестировать в ИИ.

Массовые убийства как побочка

Профессор полагает, что один из самых серьезных рисков, связанных с искусственным интеллектом, заключается в том, что машина обучена выбирать наилучший метод решения задачи в конкретный момент времени. Буквально наилучший — несмотря на то, к каким катастрофическим долгосрочным последствиям это приведет.

Приведем пример: искусственному интеллекту предлагают решить проблему с повышением температуры на планете Земля. Проанализировав сотни вариантов, компьютер вполне способен выдать ответ в духе «целесообразнее всего избавиться от всех людей, и природа тогда вздохнет с облегчением». И, строго говоря, это на самом деле самый оперативный и действенный способ решения проблемы глобального потепления.

Разумеется, пока суперкомпьютерам таких важных задач никто поручать не собирается — но иметь в виду то, что человечество способно погубить непредвиденные побочные эффекты от решений, принятых ИИ, явно стоит.

«Инопланетный» интеллект

Рассел уверен, что в следующие десять лет мы увидим такой мощный искусственный интеллект, что его проникновение во все сферы человеческой жизнедеятельности будет сравнимо со вторжением на землю представителей намного более развитой цивилизации. Ранее ученый считал, что ИИ-системы такого уровня возникнут лишь через два-четыре десятка лет. Однако появление ChatGPT заставило его пересмотреть свои прогнозы.

Профессор резюмирует: представителям политических элит стоит всерьез взяться за регулирование сферы искусственного интеллекта. Вместе с Илоном Маском и Стивом Возняком Рассел не так давно подписал открытое письмо с предложением остановить инвестиции в сферу ИИ, чтобы сперва научиться его контролировать.