Эстония пытается навести порядок на Диком Западе, которым стал мир ИИ-агентов.
Небольшая балтийская страна планирует присвоить каждому ИИ-агенту «персональный идентификационный код», надеясь отслеживать действия агентов в интернете и выявлять стоящих за ними людей или компании. «Недопустимо, чтобы человек был вынужден предоставлять своему ИИ-помощнику доступ ко всем своим правам, услугам и данным», — написал премьер-министр Эстонии Кристен Михал во вторник в посте на платформе X. «Агенты должны иметь ограниченные, контролируемые и поддающиеся аудиту полномочия. Например, должно быть возможно указать, может ли агент только просматривать данные, готовить документ или действовать в пределах установленного денежного лимита».
В посте не уточняется, когда новая система «цифровой идентификации» для ИИ-агентов вступит в силу, а также как правительство Эстонии планирует обеспечивать ее соблюдение. Также неясно, на какие именно агенты будет распространяться новый закон. (Будет ли это любой агент, развернутый пользователем или компанией, базирующейся в Эстонии? Любой агент, разработанный эстонской технологической фирмой? Любой агент, обрабатывающий данные, поступающие с территории Эстонии?) Мы обратились в канцелярию премьер-министра и предоставим обновленную информацию, как только узнаем больше.
Михал, однако, добавил, что эта программа, если ее реализовать «мудро», может стать «международным стандартом» для регулирования и мониторинга систем ИИ.
Агенты выходят из-под контроля
Учитывая, как мало известно о программе, пока рано говорить о ее практической эффективности. Бизнес, вероятно, будет внимательно следить за развитием событий в Эстонии, поскольку распространение все более мощных агентов подняло серьезные вопросы, касающиеся… собственно, агентности.
Разработчики ИИ, создающие эти системы, склонны продвигать их как средства повышения производительности, поскольку они теоретически могут выполнять широкий спектр рутинных, отнимающих много времени задач от имени сотрудников. Проблема, как некоторым компаниям уже пришлось усвоить на горьком опыте, заключается в том, что ИИ-агенты иногда могут выйти из-под контроля и/или неверно истолковать то, что их человеческим кураторам кажется четкими инструкциями, иногда с катастрофическими последствиями, такими как удаление всей базы данных компании или утечка конфиденциальных данных клиентов.
Как это часто бывает с ИИ, активно отслеживать или впоследствии проводить аудит действий, предпринятых агентом, может быть очень сложно, если не невозможно. Это, следовательно, поднимает вопрос: кто или что должно нести ответственность, если агент выйдет из-под контроля и причинит какой-либо реальный вред? Компания, которая его создала? Компания, которая его использовала? ИТ-отдел? Сам агент, каким-то образом?
Насколько мы можем судить на этом раннем этапе, новая программа Эстонии, похоже, далека от того, чтобы ответить на этот вопрос сколь-нибудь содержательным образом. Это скорее система отслеживания для ИИ-агентов, средство контроля за действиями, которые они совершают в сети. Отсюда, возможно, удастся построить более широкую правовую базу для подотчетности в эпоху, когда интернет заполняется нечеловеческими агентами.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Webb Wright
