Datadog делает ставку на DIY AI, чтобы избежать «SaaSpocalypse» в эпоху off-prem

Datadog ии Saas наблюдаемость Llm модель theregister.com

Datadog разрабатывает собственную модель ИИ для наблюдаемости, чтобы избежать SaaSpocalypse. Теория состоит в том, что ее доменно-специфичная модель превзойдет универсальные LLM по результатам и экономике. — theregister.com

Datadog близка к выпуску обновленной модели искусственного интеллекта, которая, по мнению компании, поможет ей избежать так называемого SaaSpocalypse — ситуации, когда клиенты используют ИИ для создания собственных инструментов.

Поставщик инструментов наблюдаемости уже создал модель под названием Toto-Open-Base, которая, согласно объяснительной статье компании, была построена на 151 миллионе параметров и обучена на более чем двух триллионах точек данных временных рядов — по-видимому, это самый большой набор данных для предварительного обучения среди всех моделей основ временных рядов с открытыми весами. Все данные, использованные для обучения модели, поступили от самой Datadog и были собраны в процессе эксплуатации ее сервисов наблюдаемости SaaSy.

В беседе с The Register главный директор по продуктам Datadog Яньбин Ли заявила, что компания рассматривает свою следующую модель, но считает это усилие средством достижения цели.

«Какова роль SaaS-компании?» — спросила она, прежде чем ответить: «Инновации в своей области».

Для Datadog это означает создание модели, специфичной для ее домена — наблюдаемости, — а не полагаться на универсальную большую языковую модель (LLM).

Ли считает, что разработка моделей дает Datadog два преимущества.

Во-первых, ИИ становится частью ее платформы, избавляя клиентов от необходимости выделять бюджет токенов на другом сервисе. Во-вторых, это более качественные агенты, которые эффективнее обнаруживают и прогнозируют аномалии.

Она утверждала, что агент надежности сайта Datadog уже может расследовать инциденты, проводить анализ первопричин и предлагать меры по устранению.

ИИ остается нестабильной областью, и агенты допускают ошибки. Поэтому The Register предположил Ли, что операторы критически важных ИТ-систем должны быть осторожны, прежде чем позволять агентам предлагать изменения в их системах, не говоря уже о внесении этих изменений без надзора.

Она согласилась и сказала, что для завоевания доверия со стороны систем ИИ их выходные данные должны быть как объяснимыми, так и проверяемыми. По ее словам, использование собственных моделей облегчает это для Datadog. Они также помогли компании создать инструмент, который отслеживает платформы ИИ во время их работы и может обнаруживать признаки того, что они выдают галлюцинированные результаты.

«Меня беспокоит не гонка в разработке моделей, а их применение», — сказала она, добавив, что, по ее мнению, пользователи будут применять модели Datadog, потому что они позволяют постоянно отслеживать состояние здоровья — что-то вроде носимых устройств.

«Сегодня, когда мы идем к врачу, это дорогостоящая проблема, поэтому мы обращаемся только тогда, когда болеем», — сказала она. Умные часы, напичканные датчиками, плюс ИИ для анализа этих сигналов, теперь позволяют обнаруживать и прогнозировать болезни.

Ли считает, что Datadog предлагает аналогичное изменение: от эпизодической к постоянной диагностике, что позволяет избежать SaaSpocalypse.

«В этом переходе уязвимы точечные инструменты, когда клиенты не действуют в вашем инструменте», — сказала она. «Эти вещи легче нарушить».

Она полагает, что ИИ позволил Datadog выйти за рамки SaaS и стать платформой.

Каждый поставщик стремится к такому статусу, потому что это затрудняет уход клиентов. Возможно, ИИ сможет решить эту проблему однажды. ®

Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.

В тренде:

Похожие новости: