- Источник:
- Legion Media; коллаж: Vokrugsveta.ru
Профессор , физик и эксперт по искусственному интеллекту Массачусетского технологического университета, предупредил, что ИИ с 50-процентной вероятностью уничтожит человечество. Он просто займет нишу самого разумного существа на планете, которым до сих пор оставались люди, Тегмарк в интервью шведской национальной телекомпании. Тогда мы окажемся в ситуации тех менее разумных видов, которые когда-то вымерли из-за человечества, и даже не узнаем об этом.
Физик, поясняя происходящее сегодня с развитием технологий машинного обучения, провел параллели с исчезновением вымирающих видов на планете. По его словам, история показывает, что люди — самый разумные вид на Земле, ответственны за гибель менее разумных видов, как например, маврикийский дронт. И если мы допустим, чтобы ИИ стал умнее людей, нас может ожидать та же участь.
«Около половины всех других видов на земле уже уничтожены нами, людьми. Поскольку мы были умнее, а у них не было контроля».
«Сейчас мы предупреждаем о том, что если мы, люди, уступим контроль над нашим обществом машинам, которые намного умнее нас, то для нас все может обернуться так же плохо», — рассуждает ученый из MIT.
При этом, как дронты не узнали о своем вымирании, так и мы вовремя не узнаем, считает исследователь ИИ.
Профессор Тегмарк — один из 350 ученых и экспертов в области ИИ, которые около недели назад подписали уже второе открытое письмо, призывающее к срочному регулированию развития искусственного интеллекта. Среди авторов в том числе генеральный директор OpenAI Сэм Альтман, создатель ChatGPT.
В новом заявлении всего одно предложение: «Снижение риска вымирания из-за ИИ должно быть глобальным приоритетом наряду с другими рисками общественного масштаба, такими как пандемии и ядерная война».
Некоторые ученые считают, что ИИ уже в ближайшем будущем начнут использоваться для автономных вооружений и роботов, способных убивать. Также эксперты предупреждают, что даже условно мирная технология, если она недостаточно дотошно и тщательно запрограммирована, может принять решение, опасное для людей.
Тегмарк отметил в интервью, что, хотя большая часть экспертов сейчас говорит об опасности вымирании из-за ИИ, часть коллег приветствует это и рассматривает искусственный интеллект как «наших естественных потомков».
Есть также приверженцы точки зрения, что ИИ можно будет удержать под контролем человека, как «прирученную собаку». Однако, как считает Тегмарк, нет гарантии, что люди окажутся достаточно умны, чтобы управлять таким количеством силы и энергии. А ИИ, став «сверхразумом», однажды может просто перехитрить своих создателей и захватить власть.
