Правительство США расширит применение инструментов искусственного интеллекта (ИИ) для автоматизации процесса редактирования документов в рамках запросов о предоставлении информации по Закону о свободе информации (FOIA), согласно расследованию The Washington Post.
Запросы FOIA позволяют гражданам получать документы напрямую от федерального правительства. Они часто используются законодателями, активистами и журналистами, стремящимися проверять деятельность государственных учреждений и привлекать их к ответственности. Учреждения, как правило, обязаны раскрывать запрошенные документы, хотя они могут удерживать или редактировать информацию, подпадающую под исключения, включая материалы, связанные с национальной безопасностью или личной жизнью.
Согласно The Post, Таможенно-пограничная служба Министерства внутренней безопасности приобретает инструмент ИИ от Google, Министерство внутренних дел использует инструменты Microsoft, а Министерство юстиции — инструменты, разработанные компанией Veritone. Министерство здравоохранения и социальных служб также reportedly разрабатывает собственный инструмент ИИ под названием FRED совместно с неназванным подрядчиком. Использование ИИ будет постепенно увеличиваться во всех операциях FOIA, даже несмотря на то, что сотрудники по-прежнему проверяют любые рекомендации, сделанные ИИ, согласно отчету.
Инициатива ИИ будет использована для «значительного сокращения» времени обработки, по данным федерального правительства. Действительно, процесс FOIA утомителен и занимает много времени. Заявители, надеющиеся получить документы, иногда могут ждать месяцами ответа, хотя закон требует ответа в течение 20 дней.
Но задержки во времени — лишь одна из проблем, преследующих процесс FOIA. Часто заявители сетуют на «тонны совершенно ненужных правок», по словам представителя Джейми Раскина, охарактеризовавшего правки в файлах Эпштейна, которые также включали неуместные правки, раскрывшие информацию о жертвах.
Любые ошибочные недоредактирования, вызванные ИИ, вероятно, станут головной болью для ведомств, в то время как любые чрезмерные правки, вызванные ИИ, рискуют сделать процесс FOIA еще более трудным и непрозрачным для заявителей. Внедрение ИИ в процесс редактирования документов может дать федеральному правительству «очень мощный инструмент для секретности», по словам Дэвида Каллиера, эксперта по FOIA из Университета Флориды, который беседовал с The Post.
Усиление усилий правительства по внедрению ИИ в процесс редактирования FOIA происходит параллельно с внедрением ИИ практически во все сферы деятельности правительства США.
В прошлом году Администрация общих служб США запустила набор инструментов для оценки генеративного ИИ под названием USAi, предназначенный для ускорения внедрения инструментов ИИ федеральными агентствами. Тем временем, по сообщениям, сотрудники Конгресса полагаются на ИИ для составления законопроектов, часто изобилующих ошибками.
Федеральные подрядчики, работающие на Комиссию по ядерному регулированию, начали использовать ИИ для ускорения рабочей нагрузки, связанной с изменениями правил в агентстве, по данным Politico, аналогично предыдущим случаям использования Центрами по контролю и профилактике заболеваний и Министерством транспорта. А ранее в этом месяце Федеральное управление гражданской авиации запустило инициативу ИИ для автоматизации некоторых частей управления воздушным движением, чтобы «сократить эти разочаровывающие задержки, снизить нагрузку на авиадиспетчеров и уменьшить стоимость авиаперелетов», по словам министра транспорта Шона Даффи.
Но, несмотря на масштабы, в которых разворачивается эта федеральная «иификация», процесс продолжает быть полным ошибок, некоторые из которых иногда имели фатальные последствия. В одном особенно трагическом примере недавнее расследование Bloomberg показало, что американский удар по начальной школе в Иране, в результате которого погибло более 150 человек, в основном детей, в марте, был вызван серией предотвратимых ошибок, включая чрезмерную зависимость от системы ИИ, разработанной Palantir, среди должностных лиц Центрального командования США.
Также сообщалось о потенциально катастрофических опасных сближениях, связанных с экспериментами армии с ИИ. Согласно отчету CNN за прошлую неделю, чат-бот с ИИ ложно сообщил аналитику командования специальных операций, что китайский корабль на Ближнем Востоке перевозит материалы для ядерного оружия, что едва не привело к операции США против судна и риску полномасштабной войны с Китаем.
Этот тип чрезмерной зависимости является одной из самых больших опасностей при внедрении инструментов ИИ в чувствительные системы. Технология не совершенна, и она допускает ошибки, часто называемые галлюцинациями. Эти галлюцинации могут быть пропущены человеческими аудиторами, потому что люди склонны страдать от так называемой автоматической предвзятости, то есть склонности слепо доверять автоматизированной системе и даже собственным суждениям, полагая, что она имеет доступ к большему объему информации, чем мы. Это, в сочетании с тем фактом, что системы ИИ являются «черными ящиками», поэтому мы не можем легко определить, как система приходит к определенному выводу, означает, что любая галлюцинация ИИ может иметь серьезные последствия в реальном мире.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Ece Yildirim
