Когда миллион ветеранов поделились своими генетическими данными, участвуя в программе Министерства по делам ветеранов «Программа миллиона ветеранов», они ничего не ожидали взамен. Это не удивило Рави Маддури, старшего научного сотрудника Отдела науки о данных и обучения Национальной лаборатории Аргонн Министерства энергетики США (DOE). Он предельно ясно излагает условия, на которых эти ветераны пожертвовали свои данные: «Даже отдав все стране, они нашли в себе силы дать больше, ничего не ожидая взамен».
Этот дар, который создал крупнейший в стране биорепозиторий и наиболее разнообразные по происхождению когорты данных ветеранов в мире, породил долг, который Маддури, также имеющий совместную должность на кафедре генетики человека Чикагского университета, стремится погасить.
«Когда я смотрю на эти данные, я чувствую, что обязан оправдать намерения ветеранов, которые они вложили в это», — говорит он. Эти намерения, как он их понимает, заключаются в том, чтобы другие, будь то ветераны или нет, могли извлечь пользу из всего, что могут раскрыть эти данные.
«Мы не можем медлить», — говорит Маддури.
Прибыв в Аргонн в качестве аспиранта в 2001 году, Маддури провел последние два десятилетия на стыке суперкомпьютеров и биомедицины, большую часть времени занимаясь созданием вычислительных систем, которые превращают данные ветеранов в результаты, влияющие на такие области, как посттравматическое стрессовое расстройство, болезни сердца и рак.
Он объясняет, что машины в основном выполнили свою часть работы, но препятствия между ценными данными и полученными результатами не всегда решаются более быстрыми машинами. Понимание проблем — это путь к лучшей науке.
Что не смогла решить математика
Любые два генома человека отличаются в миллионах специфических позиций. Исследование ассоциаций генома (GWAS) задает, казалось бы, простой вопрос в огромном объеме данных. Например, *связан ли данный генетический вариант с определенным заболеванием*? Сам по себе вопрос прост. Умноженный на каждый вариант, заслуживающий тестирования, и каждое состояние, зарегистрированное в карте пациента, он становится огромной математической задачей, для решения которой и существуют суперкомпьютеры. Более сложный вопрос заключается в том, написан ли код так, чтобы позволить им это сделать.
Команда Маддури запускала эту задачу на системе Summit в Центре высокопроизводительных вычислений Ок-Ридж Министерства энергетики и на системе Aurora в Центре высокопроизводительных вычислений Аргонн. На Summit команда обнаружила, что задача не может быть завершена на центральных процессорах машины. По мере роста когорты матрица, необходимая для анализа каждой группы, перестала помещаться в память, и задача застопорилась.
«Мы решили открыть коробку и посмотреть на код», — сказал Маддури. Они обнаружили, что проблема была не просто в скорости, а в кодировании.
Анализ был написан для обычных процессоров, потому что именно на них работало генетическое сообщество. Однако под алгоритмами код тратил почти все свое время на одно: умножение очень больших сеток чисел. Это именно та операция, для выполнения которой предназначены графические процессоры, и которая делает их движущей силой современного обучения искусственного интеллекта. Как отмечает Маддури, та же вычислительная архитектура, ускоряющая открытия в области ИИ, «также является основой для популяционной геномики». Поэтому команда, возглавляемая Алексом Родригесом из Аргонн, переписала эту часть кода для графических процессоров, и анализ, который в исходной версии занял бы примерно 481 000 человеко-часов работы ЦП, стал выполнимым. Этот сдвиг сделал больше, чем просто ускорил медленную работу. Он сделал практически невозможную задачу возможной.
Рабочей лошадкой, которую они ускорили, является широко используемый пакет для генетики под названием SAIGE, который сделал переписанную версию SAIGE-GPU, описанную в отдельной статье в Bioinformatics.
«Мы не очень хорошо придумываем названия. Извините», — смущенно говорит Маддури.
До SAIGE-GPU почти каждое исследование ассоциаций генома начиналось с выбора заболевания, а затем поиска связанных с ним вариантов. Маддури прямо говорит о стоимости такого подхода.
«Одна из проблем, с которыми я столкнулся в биомедицинских исследованиях, заключается в том, что они очень инкрементальны», — объясняет он. «Каждый год они получают новые наборы данных, анализируют их, находят новый набор генетических вариантов, и это происходит при всех различных заболеваниях». Причина, добавляет он, заключается в ограниченном доступе к крупномасштабным вычислениям.
Его команда решила не идти инкрементальным путем и решить вычислительную задачу раз и навсегда.
«Одна из задач, которую мы поставили перед собой, заключалась в том, чтобы взять все имеющиеся у нас данные, все генетические данные всех ветеранов, которые были секвенированы в рамках Программы миллиона ветеранов», — говорит Маддури.
Команда, консорциум Программы миллиона ветеранов, опубликовала результаты в журнале Science, где группа Маддури была среди авторов, а вычислительная работа была опубликована отдельно в Bioinformatics. Исследование охватило 2068 признаков у 635 969 ветеранов, и результаты выявили 13 672 области генома, связанные с одним или несколькими заболеваниями. Около 1600 из этих областей появились только потому, что почти треть участников не имели европейского происхождения. Согласно статье в Science, большинство генетических исследований до этого момента были основаны преимущественно на людях европейского происхождения. Эти 1600 ассоциаций ранее были «невидимы» в исследованных популяциях.
Этот диапазон происхождения также повлиял на то, как пришлось проводить анализ. Группы нельзя было просто объединить. То есть, если заболевание более распространено в одной группе происхождения, чем в другой, анализ не может отличить истинный маркер заболевания от маркера простого принадлежности к этой группе. Каждая группа должна была анализироваться отдельно, а результаты затем объединялись. 1600 ассоциаций не существуют ни в результатах одной группы. Они появляются только при объединении отдельных анализов.
Маддури осторожен в отношении того, что означает все это упражнение и что оно не означает.
«Все это доклиническое исследование», — говорит он. «Это фаза открытия». Анализ создает статистическую карту, куда следует смотреть. Превращение любой из этих 13 672 областей в лечение требует годы последующей работы исследователей, которые подхватывают и следуют данным, поэтому Маддури говорит, что команда никогда не останавливалась.
«То, что раньше занимало 14 дней, когда мы писали статью для Science, теперь занимает менее пары часов», — говорит он. Хотя это означает получение ответа раньше, настоящая победа заключается в возможности задать тот же вопрос для более крупной популяции «с большим размером когорты и большей статистической строгостью, чем в статье, которую мы опубликовали пару лет назад».
Когда данные не могут перемещаться
Геномы ветеранов имеют необычное преимущество перед другими медицинскими данными. Одно ведомство собрало данные по одному соглашению, что позволило доставить их на Summit. В медицине, говорит Маддури, данные «не могут передаваться друг другу так же свободно, как, вероятно, вы бы передавали данные космологических исследований».
Альтернатива — переместить модель, говорит он: «Федеративное обучение позволяет обучать модели без перемещения данных». Это означает, что каждое учреждение обучает на той копии, которая у него уже есть, за своими стенами, и отправляет обратно только корректировки, которые модель усвоила. Эти корректировки объединяются в единую обновленную модель, которая рассылается всем, и цикл повторяется.
На вопрос, как убедить несколько учреждений вычислять вместе, ничего не объединяя, он исправляет предпосылку. «Дело не в учреждении», — говорит он. «Первый слой этой головоломки — это желание людей работать вместе, сотрудничать». Затем часть, которая делает это возможным: «Это федерация людей».
Маддури был одним из разработчиков APPFL, фреймворка федеративного обучения с сохранением конфиденциальности Аргонн, который предоставляет средство для «перемещения» моделей, а не данных. Механизм, лежащий в основе, ближе к контролю доступа, чем к машинному обучению.
«Вам не нужно писать код для каждого планировщика», — говорит он. Globus Compute предоставляет единый интерфейс для планировщиков объектов, и APPFL отправляет через него свои задания на обучение.
Даже при наличии этих технических проблем, более сложной проблемой является разрешение.
«Все вычисления, которые происходят, являются авторизованными вычислениями, привязанными к выделению ресурсов для проекта», — говорит Маддури. Федеративное обучение означает, что задание каждого сотрудника должно выполняться под его собственными институциональными учетными данными на машине, которую он лично имеет право использовать. Объект с данными, которых нет ни у кого другого, делает эту общую модель лучше для всех.
«Если один объект имеет уникальные для него данные, а другие объекты их не имеют, то модель становится более надежной», — добавляет Маддури.
Множество разных миров
Маддури регулярно посещает конференцию SC с 2001 года (SC01 в Денвере), тема которой была «За гранью границ» и была посвящена перемещению данных через них.
«Я был аспирантом и демонстрировал на стенде Министерства энергетики свою магистерскую диссертацию, которая заключалась в использовании Интернета для надежной передачи больших объемов данных из одной точки в другую», — говорит он. Эта возможность называлась надежной передачей файлов и, по его словам, «теперь трансформировалась в то, что называется „Globus“». Первый инструмент, который он помог создать, перемещал исследовательские данные. Последний позволяет данным оставаться на месте.
С момента SC01 Маддури посетил конференцию примерно 20 раз и конкретно говорит о том, что он оттуда выносит.
«Я узнаю о параллельной обработке, о том, как люди масштабируют обучение ИИ, как люди справляются с параллелизацией, как люди справляются с мониторингом использования ресурсов», — отмечает он. Его группа ежегодно посещает семинар «Вычислительные подходы к лечению рака». В последнее время интерес сместился на ИИ-агентов.
«Агентные подходы — это следующая граница для нас», — заявляет он.
Маддури также осознает, что работает в необычных исследовательских областях. До биомедицины он работал с физиками высоких энергий, инженерами по землетрясениям и космологами.
«Когда я иду на SC, я живу во многих разных мирах», — говорит он. «Я часть очень маленькой группы людей, которые посещают [объединенную] конференцию по генетике человека и конференцию по суперкомпьютерам».
Чего все еще не хватает
Для Маддури его долг не урегулирован. Более чем через десять лет после того, как первые ветераны записались в программу, данные Программы миллиона ветеранов создали карту, но пока не лекарство. Между этими двумя вещами находится работа по обеспечению того, чтобы отдельные учреждения вычисляли как единое целое. На сегодняшний день это по-прежнему делается в основном вручную.
«Для ранних экспериментов это было так: мы говорили с NERSC, мы говорили с Аргонн, мы говорили с Ок-Ридж», — говорит Маддури. «Это много человеческого вмешательства». Он надеется, что Американское научное облако, строящееся в рамках Миссии Genesis Министерства энергетики, возьмет это на себя: «Это будет автоматизировано, работать с использованием API».
Пока что Маддури сосредоточен на превращении данных в триумф, используя очень особенную когорту данных для открытия следующего прорыва в борьбе с раком или избавления кого-то от пожизненной тревоги. До тех пор он отмечает прогресс по одной хорошей идее, одному техническому достижению и одной конференции SC за раз.
«Моя связь с суперкомпьютерами, с SC, долгая и очень плодотворная», — говорит Маддури. «Я вернусь в ноябре, в Чикаго, на SC26».
Присоединяйтесь к обсуждению на SC26
SC26 объединяет людей, создающих вычислительную инфраструктуру, на которую опирается описанная здесь работа: системы, платформы данных, сети и хранилища, которые позволяют проводить исследования в масштабе и между учреждениями.
Участники знакомятся с техническими докладами, семинарами, учебными курсами, постерами и сессиями «Птицы в стае» (BoF), посвященными ИИ, квантовым вычислениям и HPC, вместе с практиками из национальных лабораторий, промышленности и академических кругов, работающими над аналогичными проблемами. Маддури также примет участие в Региональном технологическом центре SC26, мультимедийном форуме, дебютирующем на конференции в Чикаго, где он внесет свой вклад в область высокопроизводительных вычислительных инфраструктур и систем.
Присоединяйтесь к нам в Чикаго с 15 по 20 ноября 2026 года на неделе открытий, сотрудничества и сообщества с акцентом на региональных технологических лидеров. Зарегистрируйтесь сегодня!
Предоставлено SC26
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Charity Plata,Isaac Lopez
