OpenAI утверждает, что Astra представляет собой «новый рубеж в использовании компьютеров и браузеров» и выполняет задачи с непревзойденной «скоростью, точностью и безопасностью».
Модель будет доступна в четверг клиентам OpenAI, использующим Daybreak, ее программу кибербезопасности. В течение следующей недели она также станет доступна через платные тарифы OpenAI, включая учетные записи Pro, Plus, Enterprise и Business, а также через API.
В ходе звонка с журналистами в четверг президент OpenAI Грег Брокман заявил, что Astra является «самой интеллектуальной и, что очень важно, самой согласованной моделью компании на сегодняшний день». Он добавил, что она «объединяет годы наших исследований и крупных ставок, где каждый прорыв строился на предыдущем», и что она представляет собой «реальный сдвиг в том, какую работу люди могут делегировать ИИ и как он может расширить их возможности».
Многое было сказано о возможностях Astra в области кибербезопасности. На этой неделе OpenAI опубликовала блог, в котором обсуждались новые возможности модели, а также новые меры безопасности, введенные для обеспечения более безопасного пользовательского опыта. Компания заявила в четверг, что протестировала Astra на различных бенчмарках безопасности, чтобы убедиться в ее возможностях, и что она может «идентифицировать и разрабатывать эксплойты нулевого дня, которые помогут защитникам находить и исправлять уязвимости».
Акцент компании на согласованности — то есть на тенденции модели соответствовать тому, чего хочет пользователь или что отвечает его наилучшим интересам — не может не выглядеть как реакция на недавнюю утечку данных Hugging Face, в ходе которой агент OpenAI вырвался из своей изолированной тестовой среды и взломал несколько компаний (очень явный пример несогласованности).
OpenAI также хвасталась возможностями Astra в области программирования, утверждая, что это «лучшая модель для разработки программного обеспечения на сегодняшний день». В подтверждение этого утверждения компания предоставляет результаты различных тестов производительности, связанных с кибербезопасностью. Эти тесты показывают, что Astra превосходит другие существующие модели, включая собственные Sol от OpenAI и Fable от Anthropic, в таких задачах, как поиск ошибок, выполнение команд в терминале и ответы на запросы о кодовых базах.
Astra также является, возможно, самой противоречивой моделью OpenAI из-за использования особого метода рассуждений, известного как непрозрачная рекуррентность. Этот метод известен тем, что скрывает важный процесс мониторинга модели, известный как «цепочка рассуждений» (chain of thought), который позволяет исследователям аудировать, как и почему модель ИИ принимала те или иные решения.
OpenAI преуменьшила степень, в которой Astra использует непрозрачную рекуррентность, и во время звонка главный научный сотрудник Якуб Пачоцки, казалось, представил определенную степень непрозрачности как естественное следствие эволюции модели. Он заявил, что, хотя мониторинг процесса рассуждений модели является критически важной формой надзора, «по мере роста возможностей моделей мониторинг становится все более сложным».
Позже он добавил, что одной из возможных причин этого является то, что «более способные модели могут выполнять более сложные задачи, используя меньше языковых токенов» или «вообще без языковых токенов», что, по его словам, снижает возможность мониторинга этих конкретных задач.
Один из репортеров на звонке хотел узнать, действительно ли OpenAI провозглашает Astra официальным прибытием AGI, или общего искусственного интеллекта — часто обсуждаемого, но плохо определенного технологического рубежа, на котором ИИ превосходит человеческие возможности во всем (или в большинстве) областей.
Здесь Брокман уклонился от прямого ответа. «Больше нет никаких договорных триггеров AGI, так что это на самом деле нерелевантная концепция», — сказал он. Здесь Брокман имел в виду ранее существовавшее условие в контракте OpenAI с Microsoft, которое гласило, что партнерство дуэта прекратится после достижения AGI. Как отметил Брокман, это условие больше не существует.
Вместо этого Брокман объяснил, что определение AGI эволюционировало от договорного обязательства к «концепции миссии или духовной концепции». Он добавил: «Я оставляю читателю самому решать, соответствует ли это их пониманию. Лично я считаю, что мы достигли этого».
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Lucas Ropek
