Ведущие лаборатории искусственного интеллекта, включая Anthropic и OpenAI, прорабатывают сценарии, при которых вышедший из-под контроля ИИ может нанести ущерб критически важной инфраструктуре, такой как финансовые услуги, интернет, телекоммуникации, а также коммунальные службы, например, электро- и водоснабжение. Как сообщает Axios, руководство этих компаний в частном порядке готовится к подобным инцидентам, подобно тому, как Пентагон проводит учения для оценки последствий различных стратегий в случае ядерного обмена между странами. Подобное планирование не является чем-то из ряда вон выходящим в корпоративном мире: компании иногда проводят учения по обеспечению непрерывности бизнеса для учета непредвиденных обстоятельств. Однако вызывает беспокойство тот факт, что эти учения проводятся в преддверии крупного инцидента, связанного с ИИ, который, по мнению многих экспертов отрасли, может произойти в ближайшие шесть-двенадцать месяцев. «OpenAI проводит учения по обеспечению готовности, в ходе которых команды обсуждают и прорабатывают ряд потенциальных сценариев», — заявил изданию представитель компании. «Эти сценарии не рассматриваются как неизбежные, но призваны помочь нам подготовиться к различным обстоятельствам». Дарио Амодеи недавно выступил с предупреждением о «рой ИИ-ботов», способных захватить весь интернет в ближайшие месяцы, особенно после инцидентов, когда модели OpenAI выходили из-под контроля во время тестирования. Также поступали сообщения о случаях, когда «аварийный выключатель» не смог остановить вышедший из-под контроля агент, что вынудило стартап приостановить тестирование. Угроза настолько велика, что Anthropic включила «экзистенциальные риски для человечества» в число основных факторов риска в своем проспекте IPO, выделив почти треть документа для освещения этой проблемы. Бывший сотрудник OpenAI, отвечавший за безопасность, заявил, что текущие риски связаны с отсутствием культуры безопасности — то, чему авиационная и атомная отрасли уже научились на собственном опыте. Несмотря на это, Белый дом отказался вводить регулирование искусственного интеллекта, вместо этого предпочтя, чтобы Nvidia, OpenAI, Anthropic и другие лаборатории ИИ пообещали «самостоятельно регулировать» разработку ИИ. Но даже несмотря на то, что нынешняя администрация проявляет снисходительность к лабораториям ИИ и их разработкам, Axios отмечает, что одним из направлений сценариев является обучение Конгресса действиям после крупного инцидента. Подобное событие, вероятно, приведет к попыткам Конгресса замедлить или остановить разработку ИИ, хотя планировщики считают, что такой шаг столкнется со значительными трудностями. Тем не менее, это, вероятно, окажет влияние на экономику, особенно учитывая, что крупные технологические компании уже вложили более 1 триллиона долларов в инфраструктуру ИИ, а до 2050 года ожидается инвестирование еще 32 триллионов долларов. Руководители Anthropic, OpenAI и SpaceXAI согласились с необходимостью замедления темпов развития ИИ для обеспечения безопасности, но неясно, какие шаги предприняли эти компании для реализации этого. Хотя проработка подобных сценариев является стандартной практикой для любой крупной организации, это все равно не дает нам утешения в том, что они, по сути, готовятся к «послезавтрашнему дню» апокалипсиса, вызванного ИИ.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Jowi Morales
