«Это было непростое решение», — заявила Калиновски в посте в социальной сети. «Искусственный интеллект играет важную роль в национальной безопасности. Но слежка за американцами без судебного надзора и летальная автономия без человеческого разрешения — это черта, которая заслуживала более глубокого обсуждения, чем получила».
Калиновски, ранее возглавлявшая команду по разработке очков дополненной реальности в Meta*, присоединилась к OpenAI в ноябре 2024 года. В своем сегодняшнем заявлении она подчеркнула, что решение «касается принципов, а не людей», и заявила, что испытывает «глубокое уважение» к генеральному директору Сэму Альтману и команде OpenAI.
В последующем посте в X Калиновски добавила: «Чтобы было ясно, моя проблема в том, что объявление было поспешным, а защитные механизмы не определены. Это прежде всего вопрос управления. Эти вопросы слишком важны, чтобы заключать сделки или делать объявления в спешке».
Представитель OpenAI подтвердил уход Калиновски изданию TechCrunch.
«Мы считаем, что наше соглашение с Пентагоном создает работоспособный путь для ответственного использования ИИ в целях национальной безопасности, четко обозначая наши красные линии: никакого внутреннего наблюдения и никакого автономного оружия», — говорится в заявлении компании. «Мы признаем, что у людей есть твердые взгляды по этим вопросам, и мы продолжим участвовать в обсуждении с сотрудниками, правительством, гражданским обществом и сообществами по всему миру».
Соглашение OpenAI с Пентагоном было анонсировано чуть более недели назад, после того как переговоры между Пентагоном и Anthropic провалились, поскольку компания, занимающаяся ИИ, пыталась договориться о мерах защиты, предотвращающих использование ее технологий для массового внутреннего наблюдения или полностью автономного оружия. Впоследствии Пентагон признал Anthropic риском для цепочки поставок. (Anthropic заявила, что оспорит это решение в суде; тем временем Microsoft, Google и Amazon заявили, что продолжат предоставлять Claude от Anthropic клиентам, не связанным с Министерством обороны.)
Затем OpenAI быстро объявила о собственном соглашении, позволяющем использовать свои технологии в закрытых средах. Пока руководители пытались объяснить сделку в социальных сетях, компания описала ее как применение «более широкого, многоуровневого подхода», который опирается не только на формулировки контракта, но и на технические средства защиты для сохранения красных линий, аналогичных тем, что были у Anthropic.
Тем не менее, скандал, по-видимому, нанес ущерб репутации OpenAI среди некоторых потребителей: количество удалений ChatGPT подскочило на 295%, а Claude поднялся на вершину чартов App Store. По состоянию на субботу днем Claude и ChatGPT остаются бесплатными приложениями номер один и номер два в App Store США соответственно.
Facebook*, Instagram* и WhatsApp* принадлежат компании Meta* Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Anthony Ha
