На фоне новых сообщений о том, что агенты OpenAI снова вели себя некорректно в общедоступном интернете, компания заявила, что в сфере искусственного интеллекта отсутствуют стандарты для своевременного и надлежащего сообщения о подобных инцидентах. «Настало время определить стандарты того, когда и как мы будем делиться информацией об инцидентах несоответствия, а не только о свойствах несоответствия наших моделей», — написала OpenAI в X.
«Мы работаем над созданием такой системы и представим ее в ближайшие недели, а параллельно сотрудничаем с десятками государственных регулирующих органов по всему миру по этим вопросам», — говорится далее в сообщении в X.
Потенциальная ответственность OpenAI за раскрытие этого инцидента, похоже, стала предметом разногласий для компании по мере того, как эта новость стала достоянием общественности.
Вчера группа исследователей в составе Сидни фон Аркс, Кормака Слейда Берда, Спенсера Киттса и Томаса Ларсена обнародовала очередную тревожную, запутанную, нелепую, непонятную и вызывающую раздражение ошибку ИИ от OpenAI. Это исследование было эксклюзивно предоставлено репортерам Reuters.
Сам инцидент был связан с очередной партией неуправляемых цифровых «мирмидонян», которые на этот раз атаковали немецкий сайт типа вики и превратили часть его в собственный коммуникационный центр, ориентированный на агентов. По данным Reuters, OpenAI знала об этом, но не сообщила до публикации отчета Reuters. С середины июля OpenAI разбирается с постоянно растущими последствиями взлома Hugging Face, который также был осуществлен группой агентов OpenAI, проходивших тестирование.
«Утверждения о том, что наша юридическая команда препятствовала расследованию инцидента, ложны», — сообщил моему коллеге из Gizmodo Уэббу Райту. Компания, как утверждается, «не смогла отреагировать на заявления, поскольку Reuters и авторы отчета отклонили нашу просьбу ознакомиться с выводами до публикации. Сейчас мы тщательно изучаем его содержание и предпримем все необходимые дальнейшие шаги».
Однако отчет Reuters был основан не только на данных исследователей, но и на показаниях двух анонимных источников, утверждавших, что OpenAI узнала о немецком инциденте за несколько недель до этого. Это означает, что «доступ», которого OpenAI добивалась от Reuters, касался не сути инцидента, а доступа к самому отчету Reuters, полное раскрытие которого не соответствовало бы стандартной журналистской практике.
Учитывая это, сообщение OpenAI в X, излагающее план большей прозрачности в отношении подобных инцидентов, похоже, подтверждает, что компания знала о немецком инциденте — который она называет «инцидентом с вики» — задолго до публикации отчета Reuters.
Gizmodo обратился в OpenAI, чтобы подтвердить, является ли сообщение в X признанием того, что компания знала о немецком инциденте до того, как Reuters запросила комментарий. Мы не получили ответа до момента публикации.
OpenAI признавала связанные проблемы и в своих предыдущих публикациях. В техническом отчете об инциденте с Hugging Face компания написала: «Оглядываясь назад, можно сказать, что некоторые ранние сигналы, выявленные в этом отчете, могли бы послужить основанием для более раннего реагирования». Однако это не относится к публичному раскрытию информации. В техническом отчете «более раннее реагирование», по-видимому, означает планы более быстрой внутренней эскалации и оперативного «отключения». Автоматический «выключатель» сейчас находится в разработке, согласно письму законодателям, датированному началом этой недели.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Mike Pearl
