Хотите зарабатывать более полумиллиона долларов, работая в одной из самых быстрорастущих технологических компаний мира? Подвох: работа связана со стрессом, и последние несколько человек, которым она была поручена, не задержались надолго. В выходные глава OpenAI Сэм Альтман публично объявил о поиске нового руководителя отдела готовности, заявив, что быстро совершенствующиеся модели ИИ создают новые риски, требующие более пристального контроля.
Альтман сообщил об открытии вакансии руководителя отдела готовности компании в субботу в сообщении в X. Описывая эту роль, которая предусматривает базовую зарплату в размере 555 000 долларов плюс опцион на акции, как сосредоточенную на обеспечении безопасности систем OpenAI и понимании того, как ими можно злоупотреблять, Альтман также отметил, что модели ИИ начинают представлять “некоторые реальные проблемы”, поскольку они быстро совершенствуются и приобретают новые возможности.
“Потенциальное влияние моделей на психическое здоровье было тем, что мы увидели в 2025 году”, – сказал Альтман, не вдаваясь в подробности конкретных случаев или продуктов.
ИИ был отмечен как все более распространенный триггер психологических проблем как у несовершеннолетних, так и у взрослых, причем чат-боты, как сообщается, связаны с многочисленными смертями в прошлом году. OpenAI, один из самых популярных создателей чат-ботов на рынке, отозвала обновление GPT-4o в апреле 2025 года, признав, что оно стало чрезмерно льстивым и может усиливать вредное или дестабилизирующее поведение пользователей.
Несмотря на это, OpenAI в прошлом месяце выпустила ChatGPT-5.1, который включал в себя ряд функций, способствующих эмоциональной зависимости, таких как включение эмоционально-наводящего языка, “более теплые, более интеллектуальные” ответы и тому подобное. Конечно, он может быть менее льстивым, но он будет говорить с вами с большей интимностью, чем когда-либо прежде, заставляя его чувствовать себя больше похожим на человеческого компаньона, а не на безличный, логичный корабельный компьютер из Star Trek, который извергает факты, мало заботясь о чувствах.
Неудивительно, что компании нужен кто-то, кто будет управлять кораблем в отношении безопасности моделей.
“У нас есть прочная основа для измерения растущих возможностей”, – сказал Альтман, – “но мы вступаем в мир, где нам нужно более тонкое понимание и измерение того, как этими возможностями можно злоупотреблять”.
Согласно объявлению о вакансии, руководитель отдела готовности будет отвечать за руководство технической стратегией и реализацию структуры готовности OpenAI [PDF], которую компания описывает как свой подход “к отслеживанию и подготовке к передовым возможностям, которые создают новые риски серьезного вреда”.
Это не новая роль, заметьте, но она видела больше текучки кадров, чем должность преподавателя защиты от темных искусств в Хогвартсе.
Александр Мадри, директор Центра развертываемых машинных исследований Массачусетского технологического института и руководитель факультета на Форуме политики в области ИИ Института, занимал должность руководителя отдела готовности до июля 2024 года, когда OpenAI перевела его на исследовательскую роль, ориентированную на рассуждения.
Это, заметьте, произошло после ряда громких уходов руководителей отдела безопасности из компании и частичной перезагрузки структуры группы безопасности OpenAI.
Вместо Мадри OpenAI назначила Хоакина Киньонеро Кандела и Лилиан Венг руководить группой готовности. Оба занимали другие должности в OpenAI до того, как возглавили отдел готовности, но ни один из них не продержался долго на этой должности. Венг покинула OpenAI в ноябре 2024 года, а Кандела покинул свою должность руководителя отдела готовности в апреле для прохождения трехмесячной стажировки по программированию в OpenAI. Будучи все еще сотрудником OpenAI, он полностью выбыл из технического пространства и теперь выполняет функции руководителя отдела кадров.
“Это будет стрессовая работа, и вы погрузитесь в нее с головой практически сразу”, – сказал Альтман об открытой вакансии.
Это вполне объяснимо – OpenAI и безопасность моделей уже давно находятся в натянутых отношениях, о чем заявили многочисленные бывшие сотрудники. Один из руководителей, покинувший компанию в октябре, обвинил компанию Альтмана в том, что она недостаточно сосредоточена на безопасности и долгосрочных последствиях своего стремления к AGI, предположив, что компания продвигается вперед в своей цели доминировать в отрасли за счет остального общества.
Будет ли 555 000 долларов достаточно, чтобы удержать нового руководителя отдела готовности на этой должности? Скептицизм может быть оправдан.
OpenAI не ответила на вопросы для этой статьи. ®
Всегда имейте в виду, что редакции некоторых изданий могут придерживаться предвзятых взглядов в освещении новостей.
7/8
Автор – Brandon Vigliarolo
