Одним из больших обещаний искусственного интеллекта была помощь в лечении болезней, которые до сих пор ставили человечество в тупик. ИИ еще не достиг этой цели, но он уже создал новый, жизнеспособный вирус, не встречающийся в природе, — что является одним из тех технических достижений, которые одновременно впечатляют и пугают.
Исследователи из Arc Institute в Пало-Альто (Калифорния) считают, что совершили очередной прорыв, впервые применив ИИ для создания новых вирусных геномов. Для этого они сначала обучили модель распознавать структуру ДНК различных вирусов, встречающихся в природе, а затем поручили ей создавать рецепты для новых, неизвестных вирусов.
После того как модель — языковая модель генома под названием Evo — подготовила несколько вариантов, ученые синтезировали эти молекулы и поместили их в бактерии, чтобы посмотреть, что произойдет. По словам исследователей, подробно описавших эксперимент в исследовании, опубликованном в четверг в журнале Science, бактерии произвели вирусы, способные заражать другие бактерии и распространяться.
Этот эксперимент сопровождается парой оговорок, успокаивающих алармистов. Во-первых, процесс синтеза вирусов существовал задолго до появления ИИ, поэтому часть эксперимента — это лишь применение существующего инструментария вирусологов. Во-вторых, данный конкретный вирус не представляет угрозы для человека и может заражать только бактерии. Это было сделано намеренно, так как ДНК, которую использовала модель ИИ, была взята от относительно безвредного вируса, известного как Phi X-174.
Кроме того, ИИ потребовалось немало попыток для достижения цели. По данным The New York Times, исследователи заставили Evo сгенерировать 700 000 потенциальных геномов, затем отобрали около 300, которые синтезировали в лаборатории. Лишь 16 из них оказались жизнеспособными. Это далеко от теоремы о бесконечных обезьянах, но процент попаданий очень низок.
Однако этого вряд ли достаточно, чтобы успокоить тех, кто беспокоится о возможном использовании такой технологии. Модели потребовались сотни тысяч попыток, чтобы создать несколько жизнеспособных вирусов, но те, что сработали, как сообщается, смогли преодолеть устойчивость двух штаммов E. coli, что говорит о том, что они были не просто грубыми имитациями природных вирусов.
Журнал Science опубликовал сопроводительную статью вместе с исследованием, авторами которой выступили профессор Том Инглсби и доктор Мориц Ханке из Центра обеспечения здоровья при Университете Джонса Хопкинса, предупреждающую о прорыве. «Хотя это многообещающе для приложений в области наук о жизни, это также поднимает срочные вопросы биобезопасности и биозащиты», — написали они. «Возможность составлять вирусные геномы с помощью генеративного ИИ теперь существует; механизмов управления для безопасного направления этой технологии — нет».
В связи с этим Национальные институты здравоохранения США на прошлой неделе ввели новые правила для предотвращения исследований в области наук о жизни с высоким риском, запретив ученым проводить эксперименты, которые могут сделать биологические агенты более опасными. Однако эти правила не ограничивают исследования на основе ИИ. «Чисто вычислительные (т.е. in silico) исследования, которые могут включать разработку вычислительных моделей и программного обеспечения или использование таких средств для проектирования новых форм биологических агентов, не запрещаются данной политикой, если только они не затрагивают субъект, вызывающий обеспокоенность», — говорится в документе.
«Субъект, вызывающий обеспокоенность», подразумевает нечто уже существующее — газета Times приводит оспу в качестве очевидного примера. Но что, если ИИ создаст новый опасный вирус? Как тогда будут применяться правила? Еще один кошмарный сценарий, который вы не в силах контролировать и который не дает вам спать по ночам.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – AJ Dellinger
