Если вы вдруг из тех редких людей, кто начинает новую неделю с приливом оптимизма и доброй воли ко всему человечеству, вместо жажды кофеина и остатков похмелья, позвольте мне исправить это.
Вы, например, можете распространить свой утренний оптимизм на ИИ. Поразмыслив, возможно, всё не так уж плохо. Возможно, есть вещи, которые ИИ всё-таки не может испортить. Наверняка такое безобидное, безмятежное хобби, как наблюдение за птицами, защищено от разрушительного воздействия ИИ-мусора?
Нет. НЕТ. В доказательство взгляните на письмо под названием «Платформы гражданской науки должны противостоять угрозе генеративного ИИ», недавно опубликованное авторитетным журналом Nature. Письмо написано группой учёных из Корнелла и Манчестерского столичного университета; в нём обсуждается, как поток сгенерированных или улучшенных ИИ изображений подрывает полезность гражданской науки.
Учёные отмечают, что «[полезность] биологических платформ гражданской науки для записи наблюдений… может быть подорвана, если базы данных будут существенно загрязнены медиа, созданными генеративными моделями машинного обучения типа “текст-в-изображение”». Платформы, о которых говорят учёные, — это по сути базы данных наблюдений, сделанных любителями; наблюдение за птицами — яркий пример хобби, порождающего такие наблюдения.
Наблюдатели за птицами используют такие платформы, как iNaturalist, чтобы записывать, когда и где они видели разные виды. Такая информация может быть ценна для учёных; действительно, как объясняется в письме, базы данных любительских данных, собранных краудсорсингом, «всё чаще лежат в основе наших знаний о том, где виды встречаются в пространстве и времени и как они себя ведут».
Однако эти платформы бесполезны, если они заполнены сгенерированной ИИ чушью — и, как сообщают учёные, это становится всё более распространённым. Они объясняют, что как улучшенные ИИ изображения, так и изображения, полностью созданные ИИ с нуля, появляются всё чаще в крупных базах данных гражданской науки. Они приводят несколько примеров, обнаруженных модераторами, но также признают, что «сейчас неясно, насколько широко распространена эта проблема, поскольку некоторые или даже многие такие изображения могут остаться незамеченными».
Пресловутый ИИ-уроборос также поднимает свою уродливую голову. Помимо платформ для записи наблюдений, наблюдатели за птицами используют приложения вроде Merlin для идентификации наблюдаемых птиц. Эти приложения используют машинное обучение для помощи в определении и классификации птиц, опираясь на такие вещи, как записи пения птиц, данные о географическом распространении и т.д. Они работают на удивление хорошо и служат отличным примером того, насколько полезным может быть машинное обучение в правильном контексте.
Однако результат работы алгоритмов, лежащих в основе этих приложений, зависит от качества обучающих данных; если данные, на которых они учатся, ненадёжны, то и результаты, которые они предоставляют, тоже ненадёжны; или, говоря освящённым веками языком computer science: garbage in, garbage out. В данном контексте проблема усугубляется тем, что она самовоспроизводящаяся — это повышает вероятность того, что даже благонамеренные любители птиц сделают ложные наблюдения, ещё больше ухудшая пул обучающих данных, и… ну, вы понимаете, к чему это ведёт.
Эта закономерность — когда генеративный ИИ ухудшает качество данных, на которых будут обучаться будущие модели ИИ, — является проблемой, выходящей далеко за рамки наблюдения за птицами. Существуют разные термины для этого явления: «model collapse», «AI cannibalism» и наш любимый — «Habsburg AI». Вывод ясен: чем больше ИИ-мусора пронизывает интернет, тем сильнее его вездесущность проявится в ухудшенном качестве будущих моделей.
Есть определённый комический подтекст в идее, что сингулярность может оказаться не футуристическим сверхразумом, а скорее Карлом II Испанским, но было бы неплохо, если бы дорога к виртуальной габсбургской челюсти не пролегала прямо поверх немногих оставшихся в мире приятных вещей. Например, наблюдения за птицами. И музыки. И приличного GPU. И…
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Tom Hawking
