«Любой, кто читал мои прошлые публикации, знает, что я не считаю такие запреты полезной мерой, но позвольте мне заявить это чётко, чтобы не осталось сомнений: Anthropic никогда не выступал за запрет моделей с открытыми весами», — написал он, выделив это сам.
Его ответ последовал после того, как основатель и генеральный директор Nvidia Дженсен Хуанг опубликовал в X (свой первый пост на платформе), поделившись открытым письмом в пятницу, в котором Nvidia и длинный список других компаний в сфере ИИ, включая Hugging Face, Meta*, Microsoft, Mistral и Nvidia, призвали политиков не вводить широкие «преждевременные ограничения» на модели ИИ с открытыми весами.
Хотя в этом письме конкретно не упоминался Китай, дебаты в отрасли сосредоточены на утверждениях, что китайские лаборатории ИИ наращивают возможности, часто путём кражи интеллектуальной собственности у своих американских коллег. Один из методов — дистилляция, когда одна ИИ-система бомбардирует другую модель запросами, чтобы узнать, как она работает.
Амодеи в своём блоге, опубликованном в понедельник, заявил, что рассматривает модели с открытыми весами как нечто иное, чем угроза со стороны Китая. «Модели с открытыми весами, не обладающие опасными возможностями, — это общественное благо: они не требуют никаких затрат, кроме вычислительных мощностей для их работы, и приносят пользу бизнесу, разработчикам и исследователям».
Амодеи написал в своём посте, что у него давние опасения по поводу ИИ, но бизнес, использующий модели с открытыми весами, даже китайские, не входит в их число.
Его страх в том, что «авторитарные правительства» создадут модели, более мощные, чем в США, для достижения «постоянного военного превосходства» и/или использования ИИ для подавления собственного народа. Он сказал, что Коммунистическая партия Китая (КПК) — не единственное авторитарное правительство, которое его беспокоит, но оно «самое способное».
Амодеи также сказал, что опасается, что ИИ позволит осуществлять «биологические атаки», а не только кибератаки. И, по его мнению, модели с открытыми весами более опасны в таких сценариях, потому что к ним трудно применить защитные барьеры или отслеживать их использование. Он также отметил, ссылаясь на отчёт Института безопасности ИИ Великобритании, что после выпуска модели с открытыми весами их невозможно отозвать.
Это противоречит тому, что утверждают сторонники открытого исходного кода: доступ к мощным открытым моделям, не контролируемым одной организацией, помогает защитникам защищать себя.
Амодеи перечислил действия, которые, по его мнению, помешают Китаю, включая ограничение его доступа к мощным чипам (что является давней политикой США) и призыв к формальной борьбе с дистилляцией. США пригрозили санкциями против Китая, если будет установлено, что имело место хищение интеллектуальной собственности с использованием американских моделей.
Интересно, что Амодеи также заявил, что поддерживает растущие усилия, некоторые из которых возглавляются США, по созданию организации по тестированию безопасности моделей, особенно если весь мир, включая Китай, согласится подчиниться ей.
«Я думаю, что эта идея на самом деле близка к консенсусу: меня обнадёжило то, что администрация Трампа в последние месяцы движется в этом направлении», — написал Амодеи. «Обратите внимание: чтобы быть эффективным, тестирование должно быть глобальным, а это означает, что даже КПК должна быть на борту. Я думаю, это может быть возможно… ограниченное сотрудничество в предотвращении биологического оружия на основе ИИ может быть возможным, поскольку это также в интересах Китая».
Facebook*, Instagram* и WhatsApp* принадлежат компании Meta* Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Julie Bort
