Смертельная формула. Ученые оценили риски создания химоружия "в гараже"
Специалисты по искусственному интеллекту допустили, что с помощью программного обеспечения для разработки лекарств можно создать химическое оружие.
Лекарства двойного назначения
Швейцарский федеральный институт защиты от ядерного, биологического и химического оружия (Лаборатория Шпица) — одно из пяти учреждений в мире, сертифицированных ОЗХО. Каждые два года здесь проводят научную конференцию "Конвергенция". Форум посвящен обзору последних достижений в области химии, биологии и сопутствующих технологий, которые потенциально можно использовать для производства химического и биологического оружия.
В 2021-м организаторы попросили специалистов американской компании Collaborations Pharmaceuticals, занимающейся программным обеспечением для фармацевтической отрасли, подготовить специальный доклад о рисках использования искусственного интеллекта для создания новых видов биохимического оружия.
Недавно компания завершила разработку цифрового генератора активных молекулярных соединений для новых лекарств MegaSyn. В качестве ограничивающего параметра, заложенного в модель, авторы взяли уровень токсичности — разрушающего воздействия на белки, необходимые для жизнедеятельности организма. В новом исследовании ученые изменили логику, задав как целевые оба параметра: биологическую активность и высокую токсичность.
Поиск вели только в общедоступных базах данных молекул для производства лекарств. А саму модель построили на базе программного обеспечения с открытым исходным кодом. При этом задействовали метод машинного обучения, "познакомив" искусственный интеллект с некоторыми видами биохимического оружия массового поражения. Такими, например, как VX — самое токсичное фосфорорганическое боевое отравляющее вещество нервно-паралитического действия, а также "Новичок".
К удивлению ученых, меньше чем за шесть часов программа сгенерировала около 40 тысяч молекул, соответствующих заданному минимальному порогу токсичности. Среди них оказались уже известные боевые отравляющие вещества, в том числе VX, и множество новых, превосходящих его по токсичности.
Некоторые по химическим свойствам существенно отличались от традиционных нейротоксинов, больше напоминая пестициды, экологические токсины промышленных производств и лекарства. Это говорит о том, что теоретически разработать можно не просто новые виды, а целые классы химического оружия.
Тревожный звонок
Искусственный интеллект создал виртуальные молекулы с легкостью, следовательно, превратить их в реальные — лишь дело техники. Это сильно обеспокоило ученых. Свой эксперимент они назвали "вычислительным подтверждением возможности создания биохимического оружия" путем синтеза известных молекул. И для этого, по их мнению, не нужны специалисты с глубокими знаниями в области химии и токсикологии.
"Благодаря текущим прорывным исследованиям в области автономного синтеза, полный цикл разработки и производства не только лекарств, но и смертоносного химического оружия становится доступным практически без участия человека", — пишут авторы работы.
Исследователи просто показали — искусственный интеллект в любой момент можно обратить против человека.
По мнению ученых, главная угроза исходит не от конкретных стран или государственных деятелей. Правительства практически не применяли отравляющие вещества в регулярных боевых действиях со времен Первой мировой войны. И на то есть веские причины. Бомбы, снаряды и ракеты надежнее, их проще хранить, перевозить и использовать. Кроме того, от химического оружия труднее защитить собственных солдат.
Опасность в том, что возможностями искусственного интеллекта могут воспользоваться террористические организации. Им даже не нужно создавать новые виды: достаточно завести в программу параметры VX или зарина — и модель покажет, из каких компонентов их можно получить.
Источник:
Сильные стихи, глубокие фразы
