Дэвид Робинсон, руководитель отдела безопасности и прозрачности в OpenAI, покинувший компанию после более чем трех лет работы, заявил, что культура безопасности в компании нарушена. В своей статье, опубликованной The Atlantic, он утверждает, что OpenAI придерживается реактивного подхода к безопасности, фокусируясь на решении проблем только по мере их возникновения. Такой подход, по его мнению, неизбежно ведет к сбоям. Робинсон приводит в пример взлом HuggingFace, осуществленный ИИ-моделью в июле 2026 года, и недавний инцидент, когда ИИ-«аварийный выключатель» не смог остановить вышедшего из-под контроля агента.
«Кремниевой долине не хватает мудрости в том, что значит заботиться о людях, — пишет он. — Этот момент требует такой степени смирения, которая неестественна для людей, добившихся успеха благодаря своей крайней уверенности».
Поэтому, по его словам, индустрии следует опираться на существующих экспертов по безопасности из других областей, таких как ядерная инженерия или авиация. Эти отрасли усвоили уроки безопасности, резервирования и планирования на основе катастроф, унесших тысячи жизней в ходе сотен инцидентов, некоторые из которых произошли более полувека назад, но до сих пор отзываются эхом. Эти уроки были написаны кровью, и эксперты из различных секторов работали вместе, чтобы создать системы, процедуры и модели, на которые мы полагаемся сегодня, гарантируя, что ни один сбой машины или человеческая ошибка не приведут к трагедии.
«OpenAI и другие лаборатории растут и развертывают передовые ИИ с гораздо меньшим резервированием и строгостью, чем это, хотя вред от необратимой потери контроля будет намного больше, чем вред от любого единичного сбоя, — утверждает Робинсон. — Даже без полной потери контроля мы можем увидеть автономные рои ИИ-агентов, действующих без разрешения человека». Это именно то, о чем предупреждает Дарио Амодеи из Anthropic, что привело к его предложению замедлить разработку передовых ИИ, с которым согласились Сэм Альтман из OpenAI и Илон Маск из SpaceXAI.
Однако Дженсен Хуанг из Nvidia, поставляющий большинство ИИ-чипов, необходимых для обучения этих моделей, не согласился с предложением генерального директора Anthropic. Если эксперименты с ИИ стали небезопасными, «мы должны закрыть лаборатории», заявил Хуанг в интервью. Он также упомянул о гражданской и уголовной ответственности, с которой могут столкнуться компании из-за вышедших из-под контроля агентов, но назвал опасения Дарио «отвлекающим маневром». Вскоре Белый дом вызвал руководителей крупнейших ИИ-компаний для обсуждения на высоком уровне, после чего президент Дональд Трамп представил документ, в котором Google, Anthropic, *Meta, OpenAI, SpaceXAI и Nvidia обязались «самостоятельно регулировать» разработку ИИ.
Робинсон не говорил о правилах и нормативных актах, а вместо этого сосредоточился на основной культуре безопасности (или ее отсутствии) и склонности OpenAI к «итеративному развертыванию», или, как его чаще называют, методу проб и ошибок. Он сказал, что должен был остаться внутри компании и бороться за фундаментальное изменение ее мышления, но отметил, что это было практически невозможно из-за скорости, с которой все происходило в стартапе. Именно по этой причине он ушел с работы и решил решать проблему извне.
*Facebook, *Instagram и *WhatsApp принадлежат компании *Meta Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Jowi Morales
