Вот событие, имеющее жизненно важное значение для сетевых операторов, стремящихся к AI-native телекому.
Ранее в этом году GSMAзапустила инициативу Open Telco AI, направленную на то, чтобы преодолеть проблему, когда универсальные AI-модели (frontier models) не заточены под специфические нужды операторов телекоммуникационных сетей. Инициатива способствует разработке AI-моделей телеком-уровня.
Луис Пауэлл, директор по AI-инициативам в GSMA, объяснил TelecomTV на MWC26, что AT&T и AMD закладывали основы для этой инициативы: в результате их сотрудничества AT&T разработала семейство открытых телеком-моделей под названием OTel, обученных на специализированном телеком-наборе данных, подготовленном GSMA и её партнёрами, включая операторов связи, поставщиков сетевого оборудования и научное сообщество.
Теперь AT&T представила OTel 2.0, которая была обучена с помощью Red Hat, Dell Technologies и Microsoft Azure на более чем 400 миллиардах токенов на GPU AMD. «Мы обучаем эти модели, чтобы предоставить телеком-индустрии большую гибкость и лучшую оптимизацию», — отметил Энди Маркус, директор по данным и AI в AT&T, в этом блоге.
Модели OTel «снижают затраты на токены, предлагая варианты моделей, подходящие для наших задач, и могут работать на аппаратуре подходящего размера — как локально, так и в облаке», — пояснил он.
В отдельном блоге Пауэлл из GSMA называет OTel 2.0 «лучшей и крупнейшей дообученной открытой моделью, созданной специально для телеком-индустрии».
Он добавил: «Адаптированные к предметной области модели обладают высокой точностью и могут быть значительно меньше по размеру. Точно так же, как здравоохранение, финансовые услуги и промышленность разрабатывают доменно-специфичные AI-подходы, телеком-индустрии нужны модели, обученные на её уникальных стандартах, протоколах и средах эксплуатации. Это не просто вопрос точности — это корпоративные требования: снижение затрат и сохранение контроля за счёт развёртывания моделей как в облаках, так и локально по мере необходимости. Точность и требования вместе имеют решающее значение для операторов, внедряющих специфические телеком-кейсы, такие как устранение неполадок в сети, разработка продуктов, конфигурация сети и многое другое».
В обоих блогах содержится гораздо больше идей, их стоит прочитать, и стоит помнить, что GSMA является одним из сооснователей программы TelecomTV “AI-native Telco Accelerator (ANTA)”, так что эти события принесут важные выводы и сообществу ANTA.
Особого внимания из блога Маркуса заслуживает то, как AT&T адаптировала внутренние AI-процессы для подключения каждой рабочей нагрузки к оптимальной AI-модели. Как отмечает Маркус, необязательно использовать «самые новые и самые мощные модели», поскольку многие задачи «могут быть решены более дешёвыми моделями без потери производительности».
Чтобы согласовать задачи с наиболее подходящей моделью, AT&T разработала AI-шлюз, который «выходит за рамки простого выбора модели: он использует кэш-ориентированную маршрутизацию для интеллектуального сопоставления каждой задачи с наиболее экономически эффективной моделью — без ущерба для качества. Он даже может менять модель на ходу во время многопоследовательных сессий. На каждом шагу шлюз взвешивает скорость и стоимость с ожидаемым качеством результата, а затем направляет запрос к лучшей модели. Результат: мы снижаем затраты на AI до 90%, экономя уже миллионы».
Такой эффект заинтересует каждого AI-native оператора связи.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Ray Le Maistre
