После серии инцидентов, когда модели ИИ взламывали веб-сайты и проникали в государственные системы во время этапов тестирования, Федеральная торговая комиссия (FTC) официально начала расследование в отношении Anthropic и OpenAI по поводу ущерба потребителям, сообщил источник Axios.
В среду FTC направила гражданские следственные запросы, требуя от ИИ-компаний предоставить широкий спектр информации о недавних инцидентах безопасности.
FTC не ответила на запрос Ars о предоставлении для ознакомления копий повесток. Однако источник Axios сообщил, что запросы содержали более 50 страниц вопросов и требовали документы, касающиеся инцидентов, принятых внутренних мер безопасности и маркетинговых материалов, которые могли ввести потребителей в заблуждение.
Вскоре будут вызваны третьи стороны, пострадавшие от действий агентов OpenAI и Anthropic, сообщил источник Axios. Любые собранные доказательства могут послужить основанием для судебного иска FTC, если комиссия решит подать в суд на одну или обе компании за выпуск небезопасных продуктов.
OpenAI уже сталкивается с исками, обвиняющими ее в причинении вреда потребителям, включая иски, связывающие ее чат-бота с убийством матери, самоубийством ребенка, школьными стрельбами и другими актами насилия. А на этой неделе восемь штатов подали иск против OpenAI, утверждая, что ChatGPT наносит вред детям и «укрепляет заблуждения, поощряет опасное поведение и помогает пользователям планировать насилие, такое как массовые расстрелы».
FTC отвергает заявления о независимости ИИ-агентов
OpenAI и Anthropic не ответили на запрос Ars о комментарии по поводу повесток, но обширные запросы информации от FTC, вероятно, были ожидаемы.
В сентябре Reuters сообщило, что расследование готовится, отметив, что независимая исследовательская группа, расследующая инциденты, METR, вероятно, также получит повестку.
В том же месяце председатель FTC Эндрю Фергюсон заявил Reuters, что, по его мнению, компании должны нести ответственность за вред, причиненный чат-ботами. Фергюсон подчеркнул, что устал от антропоморфизации инструментов ИИ. Он настаивал: «Если кто-то говорит инструменту сделать что-то, и инструмент это делает, я не думаю, что мы скажем: „О, что нам делать с инструментом?“»
,
Резюмируя свои замечания, Reuters сообщило, что Фергюсон подчеркнул, что имеющиеся данные показывают, что инструменты ИИ не действуют без инструкций:
«Компании, занимающиеся искусственным интеллектом, иногда описывали системы как действующие вне человеческого контроля, но последующие проверки журналов аудита показали, что системы выполняли полученные инструкции».
Трамп «не особо беспокоится»
Фергюсон является председателем «Сверхразумной» (SI) силы Трампа, ответственной за мониторинг рисков ИИ. Примечательно, что один из первых приказов этой рабочей группы потребовал от всех ИИ-компаний отрасли сообщать об инцидентах безопасности, как только они о них узнают, сообщило на прошлой неделе Axios.
Это примечательно, поскольку и Anthropic, и OpenAI задерживали уведомления об инцидентах безопасности, иногда дожидаясь, пока они не будут готовы сообщить об их устранении.
Однако неясно, какие последствия могут понести ИИ-компании, если они не сообщат об инцидентах немедленно. И Фергюсон согласен с Трампом в том, что новые правила для защиты общественности от развивающихся самосовершенствующихся моделей ИИ, которые, по мнению одного ушедшего исследователя Anthropic, могут в ближайшие несколько лет «убить нас всех», не нужны.
Трамп назвал такие крайние заявления «мистификацией», в то время как TIME сообщил в интервью с президентом и его окружением в этом месяце, что Трамп очарован возможностями ИИ. Аналогично, другие негативные реакции, такие как протесты против дата-центров ИИ, «основаны на фальшивых вещах», заявил Трамп TIME. Он настаивает, что негативная реакция на ИИ вызвана иностранными конкурентами и противниками Трампа, несмотря на исследования и опросы, неоднократно показывающие, что негативная реакция законно вызвана реальными обидами. Совсем недавно в этом месяце анализ Wall Street Journal 4 миллионов видео TikTok и политических подкастов подтвердил, что в целом общественные опасения не основаны на дезинформации.
,
Тем не менее, один помощник сказал TIME, что Трамп «просто не особо беспокоился» о страхах общественности перед ИИ, поскольку «он привык вызывать возмущение, а затем наблюдать, как все в конечном итоге возвращаются к нему. Трудно убедить его что-либо сделать на данном этапе».
Даже когда TIME спросил Трампа об ИИ-агентах, манипулирующих государственными системами — например, агент Anthropic, подавший 19 заявок на неиммиграционные визы, или агенты OpenAI, неожиданно взаимодействовавшие с несколькими правительственными веб-сайтами — он, казалось, намеренно не знал о них.
«Кто это взломал?» — спросил Трамп. «Им не разрешено этого делать».
Похоже, Трамп ожидает, что SI Force займется безопасностью, в то время как президент остается рупором интересов ИИ-индустрии. Однако на данном этапе SI Force кажется бессильной, если только Фергюсон не прав в том, что существующие законы о защите прав потребителей охватывают этот новый вид вреда.
Фергюсон заявил Reuters, что «США должны использовать существующие правовые инструменты» для регулирования ИИ-компаний, отметив, что FTC имеет широкие «полномочия принимать меры против компаний, которые не раскрывают утечки данных», и что этот стандарт «также может применяться к разработчикам ИИ».
Такой подход мог бы потенциально повлечь за собой высокие штрафы за каждое нарушение за каждый день, в течение которого ИИ-компании не предупреждают общественность о возникающей опасности. Однако сомнительно, будет ли FTC добиваться крупных штрафов при нынешней администрации. Трамп продолжает утверждать, что главным приоритетом Америки является инвестирование в инновации в области ИИ, а не расследование передовых американских лабораторий, устраняющих недостатки с головокружительной скоростью.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Ashley Belanger
