OpenAI оказалась в ситуации «леопарды съели мое лицо», только в данном случае леопардом оказался сконструированный ею же искусственный интеллект.
Согласно новому отчету 404 Media, передовая лаборатория ИИ была вынуждена уволить нескольких подрядчиков, которым поручили проверять ответы ChatGPT на предмет точности, поскольку эти работники обнаружили, что им проще выполнять свои задачи, просто скармливая их ИИ.
По данным отчета, OpenAI нанимает тысячи подрядчиков, которым поручено проверять запросы, которые пользователи вводят в ChatGPT, и ответы, которые модель выдает им в ответ. (По сообщениям, эти взаимодействия могут содержать конфиденциальную личную информацию, которой делятся пользователи, но это уже совсем другая история.) Подрядчики должны более внимательно изучать эти взаимодействия и оценивать их с целью убедиться, что ChatGPT не только предоставляет правильную информацию, но и не становится слишком подобострастным в своих ответах.
Это повторяющаяся, рутинная работа, которая, вероятно, не очень хорошо оплачивается, что делает ее идеальным типом задачи для передачи ИИ. Но именно этого OpenAI категорически не хочет, чтобы ее подрядчики делали, согласно документам, полученным 404 Media.
«Не используйте инструменты обнаружения ИИ или сам ИИ», — говорится в одном из документов, полученных работниками. «Не используйте GPTZero или любой другой инструмент обнаружения ИИ. Они ненадежны. Рецензенты также не могут использовать ИИ, включая Grammarly и ИИ-перевод, для проверки, написания отзывов или комментариев». Один подрядчик даже сообщил 404 Media, что использование инструментов ИИ — это «практически единственное, что может привести к немедленному увольнению».
С одной стороны, понятно, почему OpenAI не хочет доверять эту конкретную задачу ИИ, поскольку петля обратной связи «ИИ-ИИ» потенциально может способствовать коллапсу модели — явлению, которое может возникнуть, когда модели начинают получать синтетические, сгенерированные ИИ данные вместо контента, созданного человеком. Исследование 2024 года, опубликованное в Nature, показало, что «неразборчивое использование контента, сгенерированного моделью, при обучении вызывает необратимые дефекты в результирующих моделях», а это именно то, чего, вероятно, стоит избегать, если вы хотите, чтобы ваша модель оставалась функциональной.
С другой стороны, Сэм Альтман неоднократно заявлял, что ИИ приведет к потере рабочих мест и что он беспокоится, что его работа «заключается в том, чтобы помочь людям уничтожить рабочие места». Поэтому несколько забавно видеть, как его компания видит, как люди сдают свои рабочие места ИИ, и говорит: «Постойте, нет, не так!»
Gizmodo обратился к OpenAI за комментарием относительно увольнений, но пока не получил ответа.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – AJ Dellinger
