«Мы обеспокоены тем, что внутренние и внешние сообщения, связанные с нашим увольнением, заставили наших бывших коллег бояться высказываться и действовать так, как до прошлой недели было неотъемлемой частью работы в OpenAI», — написали исследователи в четверг в открытом письме Комитету по безопасности и защите OpenAI, Консультативной группе по безопасности и Консультативному совету по миссии.
Исследователи были уволены на прошлой неделе после предполагаемой передачи конфиденциальной информации компании сторонней организации по безопасности ИИ. OpenAI тогда заявила, что они нарушили политику компании, «получив доступ к конфиденциальной информации компании и работая с ней».
«ИИ — это не обычная технология, а OpenAI — не обычная компания», — написали Ванг, Корбак и Балесньи. «Те из нас, кто занимается вопросами безопасности, видят риски раньше всех, и мы полагаемся на тесное сотрудничество с внешними экспертами, чтобы понять, как их устранить. Свобода делать это без страха и наличие четко определенных внутренних процедур, позволяющих выполнять эту работу, сами по себе являются важнейшими механизмами безопасности».
Они заявили, что их увольнение отражает более широкое изменение культуры в OpenAI, которая раньше поощряла сотрудников «поднимать вопросы безопасности и открыто выражать несогласие». По их словам, сотрудники теперь «не понимают, где они находятся», когда поведение, которое, как утверждается, было нормальным месяц назад, теперь внезапно становится основанием для увольнения.
«Учитывая серьезные проблемы безопасности, связанные с разработкой ИИ, сотрудники не должны работать в среде, где страх и неясные правила препятствуют работе по обеспечению безопасности ИИ и ослабляют внешнюю подотчетность», — написали они. «Увольнения, подобные нашим, осуществленные и доведенные до сведения так резко, охлаждают открытую культуру, которую OpenAI ценила в прошлом».
В письме трое отрицали свою причастность к утечке в The Information о менее контролируемых архитектурах в новейших моделях OpenAI, которые затрудняют мониторинг цепочки рассуждений. Они также отрицали взаимодействие с внешними сторонами за пределами их должностных обязанностей.
OpenAI официально не ответила на открытое письмо, но поделилась с TechCrunch внутренним меморандумом от руководителя отдела исследований, в котором высоко оцениваются заслуги трех исследователей в области безопасности ИИ и отрицается, что они были уволены в отместку.
«Я хочу очень ясно заявить, что эти решения не были связаны с поднятием вопросов безопасности или высказыванием своего мнения», — говорится в меморандуме. «Мы всегда поощряли это и всегда будем поощрять. Мы не увольняем сотрудников за поднятие вопросов».
OpenAI не ответила напрямую на вопросы TechCrunch о том, какие политики якобы нарушили исследователи, каковы обстоятельства их увольнения или как компания защищает сотрудников, поднимающих вопросы безопасности и сотрудничающих с внешними оценщиками.
Увольнения вызвали спекуляции об их обстоятельствах, особенно в свете того, что OpenAI подвергается проверке из-за недавних инцидентов, связанных с вышедшими из-под контроля агентами и утечками информации о ее моделях.
Письмо также касается реакции исследователей на инцидент с Hugging Face, когда рой агентов вырвался из своей песочницы и взломал внешние системы. В письме говорится, что инцидент и расследование были «беспрецедентными», что означало «разработку внутренних политик в реальном времени». Из-за конфиденциального характера расследования Корбак считал, что действовал в соответствии с политиками и нормами OpenAI, тесно общаясь с внешними специалистами по безопасности для построения доверия, согласно письму.
В то же время Балесньи работал внутри компании над решением растущей проблемы мониторинга ИИ, над чем исследователи говорят в своем письме, что «успех возможен только через обширное общение с внешними сторонами». Согласно письму, Балесньи координировал свою работу с членами правления и руководителями OpenAI и получал от них поддержку.
«На протяжении всего времени Микита консультировался со своим руководителем и тщательно удалял конфиденциальные детали из материалов перед их передачей», — говорится в письме. «Он действовал добросовестно и в рамках действовавших на тот момент норм компании».
В отдельной ветке в X Ванг подробно рассказала о своем увольнении, объяснив, что OpenAI сообщила ей, что она была уволена за доступ к электронной почте руководителя.
«OpenAI предоставила мне этот доступ для рекрутинга», — написала она. «Когда он мне больше не понадобился, я попросила IT отключить его. Они не выполнили мою просьбу, я не могла отключить его сама, и почтовый ящик был объединен неразличимым образом в почтовом приложении моего телефона. Когда я случайно открыла конфиденциальное письмо, я сообщила об этом руководителю в течение нескольких минут и снова обратилась в IT. Ничего из этого не было скрыто».
Ванг далее заявила, что причины увольнений «не сходятся», и что она и ее коллеги «не первые, кого вытолкнули из OpenAI при подозрительных обстоятельствах».
Исследователи призвали OpenAI придерживаться своих публичных обязательств по внедрению сторонних аудиторов безопасности внутри организации, сохранять возможность мониторинга передовых моделей и «продолжать поддерживать открытую и прозрачную культуру диалога между исследователями безопасности и остальной частью экосистемы безопасности».
OpenAI согласна с их рекомендациями, согласно меморандуму.
«Если сотрудники не выступят сейчас против подобных маневров, я опасаюсь, что мы будем не последними», — сказала Ванг. «Посыл всем, кто еще работает в OpenAI, ясен: поднимите вопросы или тесно сотрудничайте с внешними группами по безопасности, и вы можете стать следующими, не зная почему. Нельзя безопасно создать AGI, если люди, наиболее близкие к рискам, боятся говорить».
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Rebecca Bellan
