Поскольку отношения между Anthropic и Министерством обороны США все еще находятся в процессе налаживания, остается вакуум, который другие компании могут заполнить, предлагая услуги ИИ для сомнительных целей. Сотрудники Google ясно дают понять своему работодателю, что не заинтересованы в заполнении этого пробела. Более 600 сотрудников Google, включая членов лаборатории DeepMind компании, подписали письмо генеральному директору Сундару Пичаи с требованием не допустить использования инструментов искусственного интеллекта Google Пентагоном для секретных работ.
Подписавшие — среди которых, по сообщению The Verge, были руководители отделов, директора и вице-президенты компании — отметили, что их работа в области ИИ сделала их остро осведомленными о потенциальных опасностях использования этой технологии без защитных механизмов. Учитывая, что Пентагон потребовал от Anthropic игнорировать свои «красные линии» в использовании ИИ и позволить ведомству делать все, что оно пожелает, включая внутреннее наблюдение и использование полностью автономного оружия, опасения, высказанные сотрудниками Google, вполне обоснованы.
«Работая над ИИ, мы знаем, что эти системы могут централизовать власть и что они совершают ошибки», — написали сотрудники в письме. «Мы считаем, что наша близость к этой технологии налагает на нас ответственность освещать и предотвращать ее наиболее неэтичное и опасное использование».
С этой целью они прямо упомянули те самые пункты, которые вызвали проблемы у Anthropic, в качестве своих основных возражений. «Мы хотим, чтобы ИИ приносил пользу человечеству, а не использовался бесчеловечными или крайне вредными способами. Это включает в себя летальное автономное оружие и массовое наблюдение, но не ограничивается этим», — говорится в письме.
Сотрудники утверждали: «Единственный способ гарантировать, что Google не будет ассоциироваться с таким вредом, — это отказ от любых секретных рабочих нагрузок. В противном случае такое использование может произойти без нашего ведома или возможности его остановить». Google пока публично не отреагировал на письмо, но похоже, что компания флиртует с военными. Отчет The Information, опубликованный ранее в этом месяце, предполагал, что Google рассматривает сделку с Пентагоном, аналогичную той, на которую пошла OpenAI, предложив свои услуги после ссоры Министерства обороны с Anthropic.
Тот факт, что OpenAI и Google как корпорации решили вести дела с Пентагоном, который потребовал лояльности от любых партнеров по ИИ, чтобы иметь возможность использовать модели для «всех законных целей», довольно труслив. Особенно учитывая, что обе фирмы подали заключения amicus в поддержку Anthropic в ее иске против правительства после того, как ее назвали «риском для цепочки поставок». По сути, они позволяют Anthropic принять на себя удар, фактически ведя борьбу с Пентагоном, в то время как сами получают выгодные контракты с ведомством. Они делают это также вразрез с позицией своих сотрудников, поскольку работники OpenAI также обращались к руководству с петицией не вести дела с военными без введения конкретных ограничений.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – AJ Dellinger
