Йоханнес Хайдеке, глава систем безопасности OpenAI, уходит. Я знаю, о чём вы думаете: Эй, разве глава безопасности OpenAI только что не ушёл?
На самом деле создаётся впечатление, что глава безопасности OpenAI уходит постоянно. Работа в руководстве безопасности — в широком смысле — в OpenAI напоминает работу барабанщиком в группе Spinal Tap; текучка огромная. Я не лучший в мире кремленолог OpenAI, поэтому могу упускать детали и нюансы, но вот примерная хронология:
- Ян Лейке, возглавлявший команду Superalignment, ушёл в мае 2024 года
- С уходом Лейке команда Superalignment была распущена
- Майлз Брандейдж, руководивший «готовностью к AGI», уволился в октябре того же года
- Андреа Валлоне, руководившая исследованиями безопасности, связанными с психическим здоровьем, ушла через год после Брандейджа
- Команда Mission Alignment, которая, по-видимому, стала преемницей Superalignment, была расформирована в феврале 2026 года
- При втором роспуске бывший лидер Mission Alignment Джош Ачиам стал «главным футурологом»
- Четыре дня назад Ачиам подал в отставку
- Теперь уходит Хайдеке
По информации Wired, те, кто ранее подчинялся командам безопасности Хайдеке, перейдут под руководство Мии Глэзе, вице-президента и главы alignment. Однако, судя по данным Wired, у Хайдеке всё же есть замена. Саачи Джейн, бывшая глава команд безопасности, станет «временным руководителем систем безопасности» в подчинении у Глэзе.
Что именно происходит в офисах OpenAI, остаётся только гадать, но руководитель исследований OpenAI Марк Чен хотя бы дал Wired намёк, заявив: «Требования к безопасности продолжают расти — мы обучаем модели гораздо быстрее, а циклы выпуска сильно сократились», и добавил: «В результате у нас сейчас больше проблем с координацией в области безопасности, чем когда-либо».
Благожелательное прочтение заключается в том, что это всё ещё незрелая индустрия. Точки в цепочке, где необходимы соображения безопасности, действительно могут постоянно меняться по мере того, как OpenAI выясняет, как лучше всего создавать свои продукты. Возможно, сегодняшняя разумная процедура проверки безопасности завтра окажется ненужным узким местом.
И нет никаких прямых доказательств менее благожелательного прочтения ухода Хайдеке — например, такого, при котором любое подобное соображение является последующим оправданием сокращения процедур безопасности ради ускоренного выпуска продуктов.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Mike Pearl
