Ваш браузер устарел, поэтому сайт может отображаться некорректно. Обновите ваш браузер для повышения уровня безопасности, скорости и комфорта использования этого сайта.
Обновить браузер

Научили на свою голову: искусственный интеллект изобрел 40 тысяч видов химического оружия за шесть часов

Разработка умных компьютерных систем для создания лекарств потенциально может быть опасной

24 марта 2022Обсудить
Научили на свою голову: искусственный интеллект изобрел 40 тысяч видов химического оружия за шесть часов
Источник:
Peter Steffen/Dpa

Однажды американскую компанию, занимающуюся поиском лекарств от редких заболеваний, пригласили на международную конференцию по безопасности, пишет Sciencealert. Команду ученых попросили осветить, как они используют искусственный интеллект для создания препаратов, а затем провести эксперимент, можно ли использовать этот ИИ не по назначению. Результаты поразили даже самих разработчиков.

«Умная» система под названием MegaSyn была обучена в том числе обнаруживать токсичные молекулы и удалять их, чтобы лекарства становились безопаснее. Для эксперимента ее модифицировали. Искусственный интеллект должен был сохранять данные об опасных веществах и соединять их в комбинации.

Исследователи поставили задачу — сгенерировать что-то похожее на сильнодействующее нервно-паралитическое вещество VX, которое используется как боевое. За шесть часов MegaSyn выявила 40 тысяч молекул, которые гипотетически можно использовать для создания химического оружия.

Оказалось, что многие из полученных соединений были даже более токсичными, чем VX.

Создатели ИИ заявили, что им не приходило в голову так использовать этот мощный «компьютерный мозг».

Многие детали эксперимента до сих пор держат в секрете — ученые не уверены, что стоит их обнародовать. Однако отмечается и польза исследования — это предупреждение об опасности искусственного интеллекта, который из безобидной разработки может превратиться в генератор смертельных веществ. Спасти от трагичных последствий смогут жесткое регулирование и контроль внутри научного сообщества.

Подписываясь на рассылку вы принимаете условия пользовательского соглашения