Южная Африка отозвала свой проект национальной политики в области искусственного интеллекта после того, как обнаружилось, что в нем цитируются источники, существующие лишь в буйном воображении чат-бота.
Министерство коммуникаций и цифровых технологий страны подтвердило на выходных, что в проекте, который уже прошел Кабинет министров и был вынесен на общественное обсуждение, в списке литературы содержались «различные вымышленные источники».
Министр коммуникаций Солли Малаци заявил, что министерство перепроверило проект после сообщений о фальшивых ссылках и обнаружило, что некоторые цитаты действительно были выдуманы, что и послужило причиной отзыва документа. «Этот провал — не просто техническая проблема, он подорвал целостность и достоверность проекта политики», — заявил он в сообщении на X, добавив, что цитаты, сгенерированные ИИ, по-видимому, просочились без какой-либо проверки.
Документ был изъят, и Малаци сообщил, что причастные к разработке и утверждению могут ожидать «применения мер по управлению последствиями».
«Этот неприемлемый пробел доказывает, почему бдительный человеческий надзор за использованием искусственного интеллекта имеет решающее значение. Это урок, который мы усваиваем со смирением», — сказал Малаци. «Я хочу заверить страну, что мы относимся к этому вопросу с должной серьезностью».
Ныне отмененная политика позиционировалась как дальновидная основа, полная рассуждений о «межпоколенческой справедливости» и о том, как ИИ принесет пользу нынешнему и будущим поколениям. Теперь она наиболее известна благодаря разделу литературы, который не выдерживает проверки.
Местное издание News24 сообщило, что по меньшей мере шесть ссылок в отчете были сфабрикованы, при этом эксперты утверждали, что ошибки соответствуют классическим галлюцинациям ИИ: убедительные на первый взгляд, но полностью выдуманные в основе.
После публикации отчета News24 Хусела Сангони-Дико, председатель парламентского портфельного комитета, курирующего министерство, публично потребовала от Малаци отозвать документ, прежде чем он вызовет дальнейшее смущение. Она также предложила, чтобы при переработке документа на этот раз обошлись без использования ChatGPT, добавив, что правительству следует прекратить искать козла отпущения, или «козла-бота».
В целом, это не лучшая реклама для правительства, которое пытается установить правила для ИИ, когда его собственная политика не проходит элементарную проверку фактов. И это не единичный случай. Как сообщал The Register в прошлом году, Deloitte пришлось помогать исправлять правительственный отчет в Австралии после того, как просочились сгенерированные ИИ цитаты и даже вымышленная цитата из судебного решения, что служит напоминанием: позволить машине писать — это одно, а проверять написанное — совсем другое.
Южная Африка усвоила этот урок на горьком опыте. Когда ваша национальная политика в области ИИ не может отличить реальные источники от вымышленных, она, вероятно, еще не готова регулировать чьи-либо машины. ®
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Carly Page
