На встрече на этой неделе генеральный директор Сэм Альтман, по сообщениям, заявил сотрудникам, что правительство будет «предоставлять доступ клиентам по одному» в ходе предварительного периода. Альтман, как сообщается, добавил, что если ограниченный выпуск пройдет успешно, OpenAI надеется последовать за ним общим, более широким выпуском «пару недель спустя».
Другими словами, администрация Трампа, по-видимому, оказывает давление на OpenAI, чтобы та сделала то, что Anthropic уже делает добровольно: держит свои самые мощные модели ИИ в секрете.
По данным The Information, новая модель OpenAI не только рассматривается администрацией, но и ее сотрудники «тесно сотрудничали» с правительством по поводу предстоящего выпуска. Агентствами, которые, как сообщается, запросили ограниченный выпуск, были Офис национального директора по кибербезопасности и Офис по научно-технической политике.
Администрация Трампа — которая изначально позиционировала себя как придерживающаяся подхода «невмешательства» в отношении ИИ — в последние месяцы настаивала на федеральном надзоре за новыми моделями. Ранее в этом месяце Трамп подписал указ, предписывающий определенным компаниям в сфере ИИ добровольно представлять новые модели правительству для тестирования и оценки перед их публичным выпуском.
Ранее в этом году Anthropic вызвала немало споров, когда объявила, что ее новая передовая кибермодель Claude Mythos будет выпущена только для узкого круга партнеров в рамках программы под названием Project Glasswing. Anthropic утверждала, что ее модель просто слишком мощная и может в ненадлежащих руках принести больше вреда, чем пользы. С тех пор наблюдатели спорят, является ли риторика Anthropic простым маркетинговым трюком или законной попыткой предотвратить неправомерное использование мощной модели. Ответ, возможно, находится где-то посередине.
Киберпреступники использовали автоматизированные инструменты очень долгое время, но в эпоху генеративного ИИ у них теперь больше цифровых боеприпасов, чем когда-либо прежде. Большие языковые модели (LLM) доказали свою способность писать вредоносное ПО, а некоторые могут даже автономно выполнять полные атаки программ-вымогателей.
Конкретная проблема с передовыми кибер-инструментами, такими как Mythos, заключается в том, что они, по-видимому, способны идентифицировать и эксплуатировать уязвимости программного обеспечения со скоростью, недостижимой для человека-аналитика. Поскольку многие программные системы содержат скрытые ошибки, которые служат точками входа в корпоративные сети, это, очевидно, представляет собой явную и значительную проблему для любой организации, управляющей сложной программной инфраструктурой. Тем не менее, поскольку эти модели остаются закрытыми для общественности, трудно сказать, насколько они на самом деле представляют угрозу.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Lucas Ropek
