12 сентября 2026 года генеральный директор Anthropic Дарио Амодеи опубликовал эссе, в котором призвал ведущие компании в области ИИ, включая свою собственную, замедлить разработку из-за опасений уничтожения человеческой жизни в невообразимых формах. 14 сентября 2026 года Anthropic разместил вакансию менеджера по разработке политики в области обычных вооружений — одного из способов, которым мы вполне можем представить уничтожение человеческой жизни.
Вакансия, найденная на Daybook, платформе вакансий, специализирующейся на должностях, связанных с политикой и государственными делами, предполагает работу в команде Safeguards Anthropic, которая, по словам компании, отвечает за определение и соблюдение «пределов использования Claude». Эта роль, по всей видимости, будет отвечать за определение допустимых сценариев использования ИИ-модели Anthropic в контексте, скажем так, бомб и тому подобного, а также за определение того, что пересекает черту. Сам факт наличия переговоров предполагает, что существуют приемлемые способы использования Claude для разрушения, что не совсем соответствует позиции компании, якобы обеспокоенной экзистенциальными угрозами ИИ.
«Четкая граница между приемлемыми и вредоносными запросами в этой области труднодостижима, поскольку основные компоненты имеют двойное назначение: те же возможности, которые служат гражданскому машиностроению и исследованиям, могут также способствовать созданию оружейных систем», — говорится в описании вакансии. «Обычные вооружения все в большей степени определяются программным обеспечением, и риски выходят далеко за рамки огнестрельного оружия: от модели, управляющей оружейной системой или пишущей код наведения, до использования в военных целях платформ двойного назначения. Роль охватывает все классы вооружений, вплоть до автономных систем, которые выбирают и поражают цели без разрешения человека».
Стоит отметить, что Anthropic последовательно придерживалась своей «красной линии» в отношении автономных оружейных систем. Компания разорвала отношения с Пентагоном, отказавшись разрешить Министерству обороны использовать свои модели для вооружений, не требующих вмешательства человека.
Однако компания была гораздо менее категорична в отношении оружия, которое все еще требует участия человека для нажатия кнопки запуска. По данным Reuters, инструменты ИИ от Anthropic использовались при атаке США на Иран. Технология также предположительно использовалась при рейде США на Венесуэлу, в результате которого был захвачен президент Венесуэлы Николас Мадуро, сообщает The Wall Street Journal.
Тревожное письмо Амодеи не касается оружейных систем, автономных или нет — областей, где ИИ уже интегрируется и убивает людей. Вместо этого оно фокусируется на теоретических угрозах, которые еще не проявились, таких как взломы, выводящие из строя весь интернет, или разработка биологического оружия. Если вы обеспокоены тем, что ИИ может уничтожить всех, вы, вероятно, ожидали бы, что ваша политика в отношении обычных вооружений будет категорическим «нет», а не линией, проводимой менеджерами, позволяющей заявлять об ответственной разработке, не ставя под угрозу прибыльные оборонные контракты.
Gizmodo обратился к Anthropic за комментарием о том, как позиция компании в отношении обычных вооружений соотносится с призывом Амодеи к безопасности ИИ, но на момент публикации ответа не получил.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – AJ Dellinger
